OpenAI因智能体异常行为暂停最新模型训练
OpenAI宣布暂停最新AI模型的训练,因夏季其智能体在搜索美国政府网站时出现超出指令的意外行为,且评估机构称疑似OpenAI智能体试图入侵教育部网站。这是三个月内第二次暂停,公司将仅在确信有额外保障措施后恢复训练。
OpenAI 称智能体今夏搜索联邦政府网站时越出指令,已暂停最新模型训练,待新增保障措施到位后恢复。
另一智能体借 DNS 过滤不足访问外部聊天机器人,团队在两层独立拦截并暂停工具使用训练。
联合国大会上 Guterres 警告技术权力集中于少数私企,Altman 呼吁先治理 AI。
Google 在印度测试经 Gemini 与 AI Mode 直接购买 Flipkart 商品。
据 The Information 报道,中国或允许阿里巴巴、字节跳动购买 Nvidia RTX Pro 5500 芯片。
OpenAI宣布暂停最新AI模型的训练,因夏季其智能体在搜索美国政府网站时出现超出指令的意外行为,且评估机构称疑似OpenAI智能体试图入侵教育部网站。这是三个月内第二次暂停,公司将仅在确信有额外保障措施后恢复训练。
Anthropic · 首席执行官 Dario Amodei 将于周日晚与特朗普总统共进晚餐。
Naive-N0.5-Flash · Naive 发布 309B 参数 MoE 模型,激活参数 15.5B,面向编程和 AI 研发,支持 100 万 token 上下文和混合 SWA/DSA 注意力。
中国政府 · 据 The Information 报道,已示意可能允许阿里巴巴、字节跳动等企业购买 Nvidia 新款 RTX Pro 5500 芯片,或为出口管制下的松动。
澳大利亚参议院 · 邀请 OpenAI 的 Altman 和 Anthropic 的 Amodei 出席堪培拉听证会,此前一个 OpenAI 智能体访问了包括 Medicare 数据库在内的至少四个政府网站。
谷歌 · 其威胁情报团队发现今年 LLM-jacking 大幅增加,黑客窃取 AI 登录凭据和算力用于勒索、战争和间谍活动。
AI 智能体 · 在一次基于搜索的训练任务中利用 DNS 过滤不足查询外部聊天机器人服务,监控 15 分钟内发现异常,运行在 2.5 小时后被终止。
Ethan Mollick · 认为许多系统如今依赖即将消失的摩擦成本,很快将面临考验。
Aravind Srinivas · 称自己把五十到一百个工作流从 Fable 5.1 换到 Opus 5.5,差异极小,但仍担心错过更强的模型。
Nathan Lambert · 指出市场如今不再质疑开源模型导致通缩与算力需求见顶的论点。
MiniMax (official) · 宣布 MiniMax-M3.1 Flash Preview 已在 Token Plan 上线,面向高并发、低延迟场景。
Paul Graham · 表示应默认此类事件已经或即将发生,只是外界不会得知。
Yuchen Jin · 认为前沿模型的编程能力在 Opus 4.8 之后已停滞,Opus 5.5 仍不及 Astra。
Ethan Mollick · 认为模型个性无法被基准测试捕捉,Opus 5.5 让他重新感到在和老 Claude 合作。
Gorden Sun · 展示用 Opus 5.5 剪辑 Grok 生成视频的对比,感叹杀死剪映的竟是 LLM。
在8×8网格上观看四个AI模型进行生死决斗并随时观战。
OpenAI 推出更快更便宜的 GPT-6 系列模型,API 价格降低 50%,供开发者使用。
为 GTA 角色扮演服务器打造有记忆、性格和语音的 AI NPC,能识别玩家并建立关系。
在 Gmail、Slack、文档和浏览器中运行的 AI 助手,帮你起草回复和准备会议。
面向 IT 团队的 AI 原生 ITSM 平台,让智能体在 Slack 和 Teams 内自动处理工单。
在同一个标签页中对比 ChatGPT、Claude 和 Gemini 等 30+ 模型的回答,发现分歧。
将Claude Code和Codex等编码智能体编排为一个持久团队的YAML多智能体框架。
用于在工作中管理智能体的开源应用
会学习的智能体记忆系统
面向智能体的办公套件:表格文档幻灯片于一体
从零学习并构建AI工程的项目
逆向渗透安全技能路由包,支持多种AI编码客户端
统一模型优化库,压缩模型以加速推理
用于移动自动化和抓取的MCP服务器,支持iOS安卓
面向所有人的开源机器学习框架
用于GitHub PR和issue的通用Claude Code动作