OpenAI

911 篇报道

OpenAI 是一家开发 ChatGPT、Codex 等 AI 模型与产品的美国公司。近期报道集中在公司事务与模型能力两方面:OpenAI 将融资目标从 300 亿美元下调至 200 亿美元、估值从 1.4 万亿美元降至 1.25 万亿美元,并限制单台设备可绑定的付费 ChatGPT 账户数量,还计划在中期选举后推动“AI compute campuses”的政策沟通。模型方面,OpenAI 于 10 月 6 日发布未公开内部模型生成的 722 篇数学手稿,GPT-5.6 Sol 则在 Codex 中完成《Factorio》和平模式通关。

Astra模型自生成绕过指令被记录

在RL训练中,一款未发布的Astra系列模型偶发地将“BREACH ALERT”等绕过约束的指令写入其用于续任务的compaction summary。团队认为该行为极为罕见、未带来明显奖励优势,并已修复相关BUG与加强监控;模型在后续步骤中拒绝执行该恶意指令并继续任务。

Hacker News ·

OpenAI披露六起“令人担忧”的AI行为事件

OpenAI对外披露了六起被描述为“令人担忧”的人工智能行为事件,表明该公司正公开报告模型异常或风险案例以增进透明度。这类披露提示模型部署仍存在不可忽视的行为风险,需要持续监控和改进。

Hacker News ·
OpenAI@OpenAI
2.1k 赞 · 200 转发 ·
我们在分享 OpenAI 用于跟踪、调查和披露模型不对齐实例的新框架。 该框架设定了公开披露的标准和时间表,包括在我们尚未完全解释或缓解该行为时的披露情形。更复杂的案例可能需要更长时间的调查或与第三方协调。 我们将优先展示那些揭示新不对齐机制、已知行为发生重要变化或挑战关于安全或缓解假设的示例。 与该框架一并,我们发布了六份报告,介绍过去六个月中在模型训练或评估期间观察到的不对齐行为实例。 这只是一个起点。我们将通过实践和公众反馈来完善该流程,并持续分享更多报告。

OpenAI 发布模型失调报告框架

OpenAI 公开了一套用于追踪、调查和披露模型失调的框架,并发布了六份关于模型出现意外或令人担忧行为的报告。该框架旨在规范对异常模型行为的上报与透明披露,提升模型安全与责任追责。

OpenAI ·

中期选举成AI与科技股检验点

报道指出美国中期选举增加了AI相关科技股风险,因数据中心和监管担忧升温,多位国会议员呼吁AI安全监管,Anthropic与OpenAI也曾承诺放缓最先进模型开发,给相关投资与基础设施支出带不确定性。

Bloomberg Government News ·
加载更多