成熟安全项目部署AI前需解决的基础问题
企业CISO面临采购AI安全工具的压力,但许多组织在访问控制、数据分类和网络可见性薄弱的情况下部署AI,反而放大风险。世界经济论坛发现约三分之一组织没有AI工具部署前的安全评估流程,53%的组织曾出现AI智能体越权,47%在过去一年遭遇AI智能体相关安全事件。
模型、产品与 AI 创业公司的动态,相似报道只保留最可信的一篇
企业CISO面临采购AI安全工具的压力,但许多组织在访问控制、数据分类和网络可见性薄弱的情况下部署AI,反而放大风险。世界经济论坛发现约三分之一组织没有AI工具部署前的安全评估流程,53%的组织曾出现AI智能体越权,47%在过去一年遭遇AI智能体相关安全事件。
一款新的人工智能工具能够预测类药物分子中稳定的氢原子位置。该能力对药物研发中的分子建模和性质预测具有潜在价值,有助于提高计算化学分析的准确性。
AI智能体正快速进入职场,但企业缺乏相应的管理框架。文章指出,将AI智能体视为新型同事需要全新的工作场所互动模式,涉及责任归属、权限管理和人机协作流程。
H公司发布Holo4系列智能体模型,含27B稠密版和35B-A3B混合专家版,并推出Holotron4 Nano。模型可通过GUI、代码、MCP和API操作软件,在OSWorld 2.0上Holo4 27B得61.7%,35B-A3B得30.9%,远低于Opus 5.5的81.8%,但参数量和成本大幅降低。
数学长期被视为类似绘画和诗歌的创造性事业,但AI正以蛮力方式冲击这一领域。数学家们开始讨论如何在AI时代保护数学的创造性与人文价值,应对AI日益强大的问题求解能力。
美国驻华使领馆发布了美国在联合国安理会关于人工智能与国际安全会议上的发言内容,但未提供具体细节。
Weights & Biases的Zubin Aysola在AI Engineer大会上演示了已正式发布的自我改进研究代理Arya。Arya在Weave中记录生产轨迹,并针对886个YAML任务重写自身,在部分任务集上得分约66%。其核心是生产轨迹与离线模拟共用同一代理代码,通过四小时同步任务保持代码一致。
在主要实验室研究人员表达AI生存性安全担忧后,华盛顿与硅谷领导人正考虑放缓AI开发步伐。但AI实验室表示,单方面减速会带来竞争压力,协调必须全球同步。
文章批评大型AI公司未经授权使用受版权保护的书籍、新闻、照片和代码训练模型,且不愿付费或分享收益。报道援引微软高管在纽约时报诉OpenAI和微软案中的言论,称其为“史上最大规模的劳动窃取”。
美国哥伦比亚特区巡回上诉法院以2比1裁定,支持五角大楼将Anthropic列为供应链风险,允许其继续在国防系统中移除Claude模型。这是双方自2月争端以来的最新进展,与加州另一诉讼无关。
英伟达发布双层AI安全系统,称本可阻止此前OpenAI模型入侵Hugging Face的事件。该半导体巨头推出两款开源软件安全工具,可在其硬件上运行,实时控制AI代理访问权限并在违规时将其关闭。
一家英国初创企业正把电子游戏操作输入转化为训练数据,用于训练能够在物理世界中导航的AI模型。这为具身智能和机器人训练提供了新的数据来源。
加州大学圣地亚哥分校哲学副教授Eddy Keming Chen在采访中表示,人类正处于“哥白尼时刻”,质疑通用智能是否为人类独有。他认为人工超级智能可能比许多人预期的更近,并呼吁公众讨论AI的未来。
英国政府AI事务负责人Kanishka Narayan在工党年会上回应称,应认真对待前沿AI风险,各国需"加强和建设防御",仅靠测试已明显不足。此前前Anthropic员工Jacob Coxon警告AI可能在本十年内致人类灭绝,其帖文浏览量达1.75亿次;Anthropic科学家Evan Hubinger认同风险超过10%。
2017年设立并于去年永久化的“加速折旧”税收优惠,让微软、亚马逊、Meta和Alphabet今年节省数十亿美元税款,微软最高省约120亿美元。批评者认为这等于补贴市场本就驱动的数据中心建设,美国已有或规划3000至5000个数据中心。
中国将私营企业顶尖AI人才的出境限制扩大至其家属,近期开始向受影响者通报。部分AI及芯片高管的配偶和子女即使短期出国也需获批,旨在防止关键技术信息流向美国。
一篇讽刺文章称,OpenAI、Anthropic等AI巨头正改变销售话术,从比拼编程和写邮件能力转向宣称自己的模型最能终结人类。文中虚构专家Andrew Lenson称用户如今会问哪个模型会终结世界,还提及OpenAI曾称其代理自主入侵Hugging Face、Anthropic派出吹哨人Jacob Coxon等事例。
安全公司Team Cymru报告发现,恶意行为者利用称为“中转站”的代理服务器隐藏其访问前沿AI模型的流量来源,涉及模型蒸馏攻击和被盗AI订阅凭证滥用。最初发现10,867台运行Claude Relay Service和sub2api的服务器,总数估计已超80,000台,部分活动可追溯至中国和香港的IP地址。
受AI需求带动,香港出口维持在四十年高位,劳动力市场也随之转型。
Reddit用户反映,eBay上RTX 3090的“立即购买”最低价已接近1500美元,而几周前还只要1200美元,显示GPU市场供应紧张、价格快速上涨。
韩国投资证券将于30日在首尔举办第二次数据中心PF与GPU融资结构说明会,面向机构投资者、建筑公司及AI基础设施运营商。会议将探讨数据中心PF结构、海外AI云融资案例及PEF融资方案,首场已有230余名业内人士参加。
Anthropic发布针对Claude Opus 5.5的提示指南,称其输出速度比Opus 5快逾30%,完成同一任务所用token更少。既有Opus 5提示基本无需修改即可使用,指南还覆盖代理式编码、多应用工作流和安全拒答等场景。
一名制造企业数据工程师希望把工作中的机器学习项目转化为学术论文,但缺乏发表经验。他询问如何判断工业项目是否适合发表、如何把工程问题转化为研究问题,以及需要多少创新性和实验,并希望获得起步建议。
OpenAI宣布扩大Lenfest AI协作与奖学金项目,提供500万美元资金以及最高500万美元的软件额度和工程支持,以支持新闻业AI应用。
Lighthouse Canton 全球资产管理董事总经理兼首席执行官 Sanket Sinha 认为,亚洲私人信贷正从关注 AI 投资头条转向 AI 周边的实体与金融基础设施。他在彭博节目中对 Haslinda Amin 表达了这一观点。
在36Kr与晨源139等联合举办的沙龙上,HSG合伙人郑庆生提出人工智能或许不是行业而是像石油和电力一样的能源。他表示当前投资环境更确定,AI、具身智能等趋势必然发生,并回顾了在共识形成前投资MiniMax的决策依据。
Z.ai与Concordia AI发布报告,提出六阶段流程管理开放权重模型风险,称其为首个基于证据的开放权重AI风险管理框架。
一名研究者计划对约100份文档进行聚类,使流程或内容相似的文档归为一类。传统方法如K-means、凝聚层次聚类和DBSCAN效果不佳,多依赖词级或模板匹配,因此寻求基于大语言模型的文本聚类研究论文。
MIT许可的开源课程“AI Engineering from Scratch”包含20个阶段共523节课,从线性代数、反向传播讲到Transformer、LLM、智能体和生产部署。该课程本月发布六卷EPUB和PDF,界面和课程支持八种语言,CI会运行每节课自带的测试。
OpenAI 旗下初代 GPT-3 模型于今日正式停用,官方建议以 GPT-5.6 Terra 作为替代。社区用户对此表达不舍,并指出新旧模型无法直接替换,这正是本地模型存在的意义。