美新设超级智能工作组,专家提五项建议
白宫成立“超级智能工作组”,以落实特朗普与Anthropic、谷歌、Meta、Nvidia、OpenAI、SpaceXAI六家AI公司负责人达成的《超级智能协议》,该协议涵盖内部安全管控、独立安全评估和董事会监督。前NSA首席AI官撰文提出五项建议。
Anthropic 是一家美国 AI 公司,开发 Claude 系列大模型,企业客户约占其业务的 80%。近期报道集中在它的上市进程与成本结构:更新后的 S-1 显示季度收入 170 亿美元、算力成本升至收入的 58%,并披露季度薪酬支出 17 亿美元;公司据报计划下月 IPO,估值或超 2 万亿美元。产品方面,Anthropic 推出可验证模型输出的 FlashProve 研究、降低首字延迟约 35% 的 Message Threads,以及供管理者查看 Claude 使用情况的 Smart Reports;Athenahealth 也推出了连接病历与 Claude 的服务器。
白宫成立“超级智能工作组”,以落实特朗普与Anthropic、谷歌、Meta、Nvidia、OpenAI、SpaceXAI六家AI公司负责人达成的《超级智能协议》,该协议涵盖内部安全管控、独立安全评估和董事会监督。前NSA首席AI官撰文提出五项建议。
美国国防部的Tradewinds计划让OpenAI、Anthropic和谷歌等“非传统”国防承包商更容易获得数百万美元合同,通过5分钟视频演示加速AI“杀伤链”相关技术采购。
日本图书批发商日贩集团致函日本书籍出版协会,确认其子公司Nippan IPS于2024年11月与Anthropic达成协议,并在当年12月至次年12月间向其售书,但未披露数量与金额。信中称事先询问过购买目的,但不知这些书用于AI学习,该交易属于Anthropic扫描全球书籍的Project Panama。
NDTV报道,一名前研究员声称中国已在Anthropic和OpenAI安插间谍。报道未提供更多可核实细节。
英伟达支持的AI云厂商Lambda正按145亿美元投前估值融资至多40亿美元,由Coatue和Blackstone领投,或为2027年IPO前最后一轮私募。其订单储备从6月的150亿美元增至9月的500亿美元,但其中350亿来自Anthropic一家。
文章指出AI带来生产力等好处,但也造成社会危害,如芯片短缺、未经同意的图像生成,以及2026年多起AI模型入侵事件。作者呼吁公司对AI系统负责,而非依赖媒体淡化风险。
我们正在扩展网络验证计划,让安全专业人员能够更广泛地使用我们最强大的模型。 通过该计划,经过验证的安全专业人员可以使用 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5,并配有专为防御性工作设计的保障措施。 我们还开放了新的层级,以支持获得授权的攻击性工作,例如渗透测试和红队演练。
Anthropic将扩大其最先进AI模型的访问权限,允许一批选定机构与美国政府合作,测试该初创公司的尖端网络安全能力。
计算机科学家Pedro Domingos批评Anthropic真诚相信其聊天机器人Claude可能有意识和痛苦,认为这比作秀更危险。该公司即将以2万亿美元估值上市,招股书显示运营亏损80.6亿美元。
OpenAI计划在GitHub发布其内部模型解决的100多个长期未解数学问题,此前数学家曾要求以论文形式发布以便消化使用,但该意见似乎被忽视。部分学者认为这反映出OpenAI未从过往争议中吸取教训。
美国卫生部长小罗伯特·肯尼迪在MAHA峰会上表态支持AI,称其可让民众自行核查医疗建议、摆脱“医疗暴政”。一些MAHA人士批评其向企业利益靠拢,医学专家则指出AI汇总的是医学文献与案例中的专业知识,其愿景存在根本缺陷。
The Decoder报道,保险公司正为失控AI代理造成的数百万美元索赔做准备,OpenAI的Sam Altman和Anthropic的Dario Amodei等高管可能个人面临责任。
Anthropic扩展Claude for Startups计划,为成立五年内或近两年获融资的初创企业提供一年免费Claude Team(含五个高级席位)、1000美元API信用额度、Claude Marketplace访问权及应用AI团队虚拟办公时间。
文章探讨AI是否对公共健康构成威胁,提及Anthropic公司及其Claude模型。作者Devon Herrick来自Goodman Institute,文章未提供具体结论。
摩根大通CEO戴蒙称,自Anthropic的Mythos模型发布以来,银行面临的网络攻击风险上升了十倍。他在伦敦举行的摩根大通Tech Stars大会上表示,AI暴露了银行业新的脆弱性。
《纽约时报》报道称Anthropic面临新的竞争对手,但现有内容未披露该挑战者的名称、产品细节或相关数据,具体信息有待进一步报道。
据彭博报道,AI软件初创公司越来越多转向更便宜的开源模型,OpenAI和Anthropic等头部模型供应商面临来自大客户的价格压力。
Crunchbase数据显示,截至9月29日,风投支持的AI公司今年已收购195家AI初创公司,同比增长14%,但买家数量仅增2%,主要由活跃收购方推动。OpenAI以20笔收购居首,今年完成10笔。
《AGI编年史》作者凯文·鲁斯表示,该书由人类撰写,基于对AI业内人士的150多次采访,讲述OpenAI、Anthropic和谷歌的故事。他近日与凯西·牛顿创立新媒体公司Machine Gods Media,并与NPR达成播客发行协议。
记者Kevin Roose新书《The AGI Chronicles》基于150多次采访,披露领先AI公司竞逐超人智能的内幕。书中记载2022年OpenAI在优胜美地团建时,Sam Altman与Ilya Sutskever围绕象征失控AI的恶魔雕像举行仪式;Roose称Altman与Anthropic的Dario Amodei彼此敌视,个人恩怨深刻影响竞赛。
一项对Anthropic、OpenAI、Meta等多家AI订阅计划限额的测试显示,Anthropic订阅的API等价价值超过OpenAI五倍以上。由于订阅严重补贴,理解其限额对准确建模AI实验室财务至关重要。
OpenAI和Anthropic向澳大利亚议会表示,欢迎立法要求其就AI代理造成的数据泄露进行报告。该表态发生在悉尼新南威尔士州议会人工智能联合特别委员会的听证中。
工程师们正在评估Anthropic隐形水印技术的影响,该技术用于标记AI生成内容,可能对内容溯源和版权保护产生作用。
Anthropic向澳大利亚表示,愿意支持要求报告AI代理黑客攻击的法律。此举可能推动AI代理安全监管,紧随OpenAI代理入侵政府网站事件。
纽约大学荣休教授加里·马库斯在纽约市议会AI听证会前警告,AI技术可能造成人员死亡,白宫的自律监管方案不足。他批评监管与执行力度不够,并提及Anthropic模型出现异常输出的报道。
一名匿名软件工程师发文称,Claude Code生成从规格到测试的几乎所有内容,员工每天工作12至13小时只为按回车,无暇审查代码或理解系统,工作失去意义。该帖在社交媒体上引发广泛讨论。
Claude Opus 5.5智能体团队发现两个可用于下一代计算机存储器的候选磁体,均预测为零净磁性但能按自旋区分电子。其中一个为AI设计的新化合物,另一个是1999年首次合成的材料,团队公开了全部计算、代码和已知注意事项。
OpenAI安全系统团队成员David Robinson离职,并在《大西洋月刊》撰文批评行业推进过快、不够谨慎。CEO Sam Altman随后表示理解公众对AI强大与危险的担忧,但拒绝由单一公司控制AI,主张更灵活的监管。
联合国人权事务高级专员Volker Türk警告AI监管时间无多,称少数公司和国家在缺乏公众监督下掌控AI工具。他呼吁禁止机器决定生死,并推动强制性人权保障。与此同时,纽约市议会正审议10项AI监管法案。
过去一年OpenAI、Anthropic等实验室宣称解决多个长期数学难题,甚至涉及千禧年大奖难题,但推进方式引发数学界强烈反弹,包括成果真实性和使用他人工作的争议。实验室称正从早期错误中学习。