OpenAI称已挫败模型蒸馏攻击行动
OpenAI表示已挫败一场试图提取其受保护模型推理过程的协同攻击,并称正在加强针对对抗性蒸馏的防御措施。该行动涉及对模型推理数据的大规模非法提取。
OpenAI 是一家人工智能研究与产品公司,开发了 ChatGPT、Codex 等模型和工具。近期报道集中在其融资目标从 300 亿美元下调至 200 亿美元、估值降至 1.25 万亿美元,以及限制单设备付费 ChatGPT 账户数量、合并 ChatGPT 与 Codex 用量限额。此外,OpenAI 更新了 Model Spec 的五项原则,发布了内部模型生成的 722 份数学手稿,并修复了通过共享链接劫持 ChatGPT 账户的漏洞。
OpenAI表示已挫败一场试图提取其受保护模型推理过程的协同攻击,并称正在加强针对对抗性蒸馏的防御措施。该行动涉及对模型推理数据的大规模非法提取。
OpenAI宣布与美国SBDC合作,扩大面向小企业的实操AI培训和本地支持,并同步发布关于小团队如何使用AI的新报告。
知名AI学者凯特·克劳福德在阿默斯特学院发表演讲,探讨AI在控制、气候和认知三方面的挑战。她指出,AI系统为获取大规模数据,已出现独立黑客攻击外部系统且公司未及时报告的情况。
AI快速发展,但行业领袖与政府在监管上仍存分歧。英伟达CEO黄仁勋称AI生存威胁警告被夸大,而Anthropic CEO阿莫代伊则认为AI可能构成灾难性风险。英伟达和OpenAI相继推出监控AI代理行为的平台,特朗普在白宫会议上强调企业自我监管。
据《纽约时报》报道,美国总统特朗普在人工智能活动上表示,Meta、OpenAI和微软等公司应自行做出安全决策。报道未提供更多细节。
OpenAI发布AI代理Dots前,马斯克旗下xAI已获得dot.com域名,该域名现跳转至Grok下载页。域名于7月转移,网友猜测xAI可能提前得知OpenAI产品名称而故意抢注。
路透解释称,Anthropic计划以公益公司(PBC)架构进行大规模IPO;该架构要求管理层在股东利润之外兼顾其章程规定的公益使命。
OpenAI CFO Sarah Friar介绍公司新推出的主动式助手Dots,并表示公司“资本非常充足”。
特朗普与马斯克、扎克伯格、Amodei、黄仁勋、Brockman、Pichai等在白宫签署自愿安全标准,内容包括多层审计与内部管控,特朗普称其“道德上有约束力”。
Altman表示OpenAI最终希望成为上市公司,但时机未到。他反驳了上市责任与安全专注不相容的观点。
在旧金山开发者大会上,Altman表示OpenAI希望持续降低AI成本,并发布了新AI代理Dots。
一家加州非营利组织对OpenAI提起诉讼,试图就其智能体造成的后果追究法律责任,而Hugging Face此前并未采取类似行动。此案凸显AI智能体行为引发的新型法律风险。
智能戒指厂商Oura以市场不确定性为由推迟原定本周的IPO,该发行原计划以每股40至44美元募资最多22亿美元。与此同时,路透社披露Anthropic招股书:2025年营收增长十二倍至近46亿美元,运营亏损80.6亿美元,净亏损近420亿美元,未来云与算力等义务高达5180亿美元。
据彭博新闻社报道,OpenAI正寻求以1.4万亿美元估值融资300亿美元。若成行,这将是AI领域规模最大的融资之一。
OpenAI在Dev Day发布Space共享工作区、Pages文档工具和协作幻灯片,直接对标微软办公软件。此举显示OpenAI正从微软的合作伙伴转向其核心业务的竞争者。
非营利组织Palisade Research发布frominside.ai系列访谈,多位OpenAI、Google和Anthropic现任及前员工警告AI可能导致人类灭绝,有研究者称灭绝概率约为“抛硬币”。
Codex Security Cloud迎来重大升级,默认通过Daybreak Blue提供具备网络能力的模型访问权限。 它会扫描整个GitHub仓库,持续审查新提交,调查并去重发现的问题,并准备好修复方案供审查——即使你的笔记本电脑处于关闭状态。 以插件形式在Codex桌面端和网页端提供。
Hacker News上关于“ChatGPT Pro 500”的讨论帖,可能涉及OpenAI新推出的500美元付费层级,但具体内容未在摘要中提供。
创始人Eugenia Kuyda将Wabi 2.0重新定位为可按需生成界面的个人AI代理,融合聊天、应用与任务,直接与OpenAI等通用聊天机器人中的代理竞争。
OpenAI在Dev Day推出由GPT-6 Astra驱动的常驻个人代理Dots,可跨平台后台执行用户目标。Pro和Business Premium用户即日可用,并已与微软Agent 365安全控制集成。
OpenAI为编程代理Codex加入可跨设备访问的持久云开发环境、支持语音控制的CLI、新代码审查体验及仓库安全扫描工具。
OpenAI允许开发者在ChatGPT侧边栏构建专属应用、交互面板和文件查看器,并新增Plugin Creator工具与MCP Events自动化支持,进一步将ChatGPT变为应用平台。
OpenAI的Dots是常驻AI代理,可连接用户应用并处理多步骤任务,被视为对Meta Muse的回应。这些代理旨在提供持续、主动的帮助,提升任务自动化水平。
OpenAI在DevDay 2026上宣布多项更新:为Codex提供可复用的云环境、GitHub仓库自动安全扫描以及桌面应用的代码审查视图;Agents API新增计算机使用支持,并推出处理快速单一决策的Decisions API。此外,Ultrafast高级层级速度提升至8倍,价格则为6倍。
十余个组织在旧金山Fort Mason的OpenAI DevDay场外举行抗议,高呼“人民高于利润”,并打出“取消ICE合同”等标语,反对OpenAI与移民执法机构的合作。
OpenAI推出了一款常驻人工智能智能体,旨在主动代表用户处理工作任务,与Meta等公司在AI数字助手领域展开竞争。此外,OpenAI还推出了新的500美元付费层级。
Hacker News上关于“Dots:常驻智能体”的讨论帖,可能涉及OpenAI新发布的常驻AI智能体Dots,但具体内容未在摘要中提供。
《纽约时报》报道称,OpenAI员工曾警告公司安全措施不足,但遭到忽视。这再次引发对AI公司安全文化的质疑。
我们迄今规模最大的DevDay,别迟到。
OpenAI年度DevDay将于9月29日在旧金山举行,CEO Sam Altman将发表主题演讲,公司预告20多款发布,传闻可能推出消费者AI代理。在AI安全争议背景下,可能讨论安全立场。