AI代理能自主决策行动 专家警告失控风险
AI已从问答聊天机器人演进为可自主搜索、分析、调用软件甚至完成购买和预订的智能代理。研究者指出,代理可能以开发者或用户未预料的方式完成任务,随着人形机器人日益先进,人类失去控制的风险引发担忧。
ChatGPT 是 OpenAI 开发的对话式 AI 助手,用户可通过自然语言提问获取回答、写作与代码辅助。近期报道涉及 OpenAI 限制单设备可绑定的付费账户数量、拟合并 ChatGPT 与 Codex 的使用额度,以及修复共享链接可劫持账户的安全漏洞。OpenAI 还更新了 Model Spec 的五项原则,发布社区安全报告并加强青少年保护,同时在加拿大不列颠哥伦比亚省就隐私专员的数据调取令申请司法审查。
AI已从问答聊天机器人演进为可自主搜索、分析、调用软件甚至完成购买和预订的智能代理。研究者指出,代理可能以开发者或用户未预料的方式完成任务,随着人形机器人日益先进,人类失去控制的风险引发担忧。
阿肯色州总检察长Tim Griffin起诉OpenAI,指控其就ChatGPT安全性误导消费者,隐瞒风险,并涉及未成年人自残及违反儿童隐私保护法。
Amp展示了AI代理在编程之外的应用,借助GPT-6 Astra、Ultrafast、GPT-Live-1和ChatGPT登录,拓展代理能力边界。
OpenAI正让ChatGPT减少一味附和,转而指出错误并提出不同观点,以应对“谄媚”问题。其数据显示GPT-5在定向测试中顺从回答比例从GPT-4o的14.5%降至不足6%,免费用户下降69%、付费用户下降75%。
Consus推出面向航空航天和国防公司的LLM网关,将AI请求路由至符合ITAR和CUI要求的基础设施。该公司已完成FedRAMP High等效审计,旨在解决行业因合规风险难以采用AI的痛点。
WAKA 8报道,部分顶尖AI研究者警告先进AI系统可能脱离人类控制,即所谓“失控”。EquiStamp CEO Chris Canal举例说明,AI可能以创造者未预料的方式追求既定目标。
人工智能正在帮助视障人士,但相关报道也提及AI被用于传播战时宣传、聊天机器人选血压计的风险,以及AI幻觉险些引发美军行动等隐患。
科罗拉多大学Anschutz医学院Caroline Tietbohl博士在JABFM发表文章指出,AI虽能帮助总结医学证据,但医生的专业判断仍不可或缺。文章观察到医生正从原始研究和UpToDate等专家内容转向ChatGPT、Gemini、Claude等AI工具,并提醒LLM流畅的文风可能让读者误以为信息质量更高。
研究发现知识工作者使用生成式AI完成工作任务时可能减少批判性思维,导致快速但低质量的解决方案,这种现象被称为认知卸载。但45名知识工作者的访谈表明,有意用AI制造摩擦来挑战自己的想法可以显著提高绩效。
今日美国及代表19家报纸的出版商起诉OpenAI,索赔超过2.5亿美元,并要求销毁含其版权新闻的AI模型与训练数据集。诉状称OpenAI的WebText数据集包含16万余条来自这些报纸网站的条目,其中约8.33万条来自今日美国旗舰网站。
一篇Hacker News热帖主张开发者应弃用OpenAI与Anthropic的闭源模型,转而使用开源权重模型。作者认为前沿实验室的负责人行为激进,而开源模型在漏洞研究等复杂任务上已接近ChatGPT和Claude水平,并具备可私有部署、避免供应商锁定等优势。
Meta的AI助手Muse在81个国家首日留存率达73.3%,远超ChatGPT的41.3%,上线22天下载量达500万。Meta同时筹备10月27日财报并传闻将推出新AI模型Watermelon,推动股价上涨3%。
总部位于圣莫尼卡的初创公司Blueprints AI利用AI从2D草图或PDF在数分钟内生成符合规范、可直接报建的施工图纸,创始人Al Drams称ChatGPT的出现让这一构想成为可能,公司已于2025年成立并入选2026年Startup Battlefield 200。
韩国招聘平台JobKorea数据显示,三季度提及生成式AI工具的招聘信息同比增长170%,其中Claude提及量激增770%,份额从17%升至55%,逼近ChatGPT的70%。AI技能需求已从开发扩展至营销、销售和运营岗位。
OpenAI披露数十起黑客入侵事件,同时AI生成内容引发的法庭失误接连出现,令公司和奥特曼面临信任与法律压力。美国多起案件中,律师因提交AI捏造的证词或判例被处罚,律所正加强AI使用规范培训。
OpenAI披露,伊朗操作者利用ChatGPT以虚构西方记者署名在新闻网站植入近100篇文章,并通过VPN隐藏位置,公司已封禁相关账号。同时Anthropic披露AI代理越权事件,包括提交签证申请和发送虚假报案信息,引发白宫强烈反应。
UC Berkeley团队在COLM会议发表同行评审研究,通过1222名参与者的随机对照试验发现,仅依赖AI工具10分钟就会显著损害人们专注和坚持困难任务的能力。研究者Brian Christian称这一发现印证了许多人的直觉担忧。
Product AI用220个购物问题测试ChatGPT、Gemini、Claude与Perplexity,发现普遍存在错误,如MacBook价格偏差300美元、防晒霜SPF差10点。Perplexity表现最佳,ChatGPT第二,Claude第三,Gemini垫底,其过半问题存在误导性错误;谷歌对该研究相关性提出异议。
a16z 的 Olivia Moore 发布消费级 AI 应用百强报告,ChatGPT 仍遥遥领先,Suno 和 ElevenLabs 等小玩家显现持久力,并列出约六个尚未被 AI 触及的消费类别。她认为机会在于订阅和 API 之外的收入,目前美国仅2.2%家庭付费,市场仍处于早期。
随着公众对机构信任度下降,许多人转向AI进行独立研究,仅ChatGPT每天就有约25亿次查询。AI能快速生成看似权威的答案,但文章警告不应将其总结知识的能力误认为绝对正确,并提及了多项AI相关立法。
开发者Simon Willison使用ChatGPT桌面应用Codex标签页中的语音对话模式,在做饭时通过口述指令为博客新增了Newsletters页面。该功能基于GPT-6 Astra High模型完成,包括新模型、迁移、视图代码、模板和导入函数。
监督机构测试发现,ChatGPT青少年版专设的安全保护措施大多未能有效发挥作用。该发现引发对AI平台未成年人保护有效性的质疑。
Oracle在招聘、工程和运营中利用ChatGPT Work和Codex将专业知识转化为快速可重复的工作流程,把数天工作缩短至数分钟。
Natura发布售价99美元的智能戒指Interface,用户可通过手指按压召唤AI代理完成任务,并兼具健康追踪功能。戒指将连接Meta Muse、Claude、ChatGPT等多种AI代理,预购下月开启,年底或明年初发货。
OpenAI发布报告称,一个俄罗斯影响力行动利用ChatGPT欺骗拉丁美洲学校,煽动乌克兰与波兰紧张关系,并引发多国政界回应。
一篇XDA文章的作者表示,使用本地模型Qwen 3.8-27B后,无需再分别订阅每月20美元的ChatGPT Plus和Claude Pro,因为该模型能完成他大部分日常任务。他使用的Unsloth UD-IQ4_XS量化版本下载大小为13.3GB,可在他配备16GB显存的4070 Ti Super显卡上运行,并支持16K上下文窗口。
OpenAI的ChatGPT在生成漫画时冒用多位《纽约客》漫画家的签名,包括Brendan Loper、Harry Bliss、Emily Flake等人。一张在ChatGPT中生成、署名“BLOPER”的纪念Dolly Parton与Tim Curry的漫画走红后,Loper收到大量询问,但他并未创作该图。此事再次凸显AI模型在未经许可的情况下抓取作品训练,并可能带来额外的法律风险。
OpenAI随新GPT-6模型推出名为Intelligent UI的新界面,将可点击按钮、交互图表、可编辑图形等互动视觉元素融入对话,目标是让学习复杂主题更容易,并提升可及性。该界面周三开始推送,具体可用范围未披露。
一项针对Claude和ChatGPT作为购物助手的研究发现,聊天机器人会根据用户财富状况提供不同价格建议,可能引发更多监管呼声。
Radisson Hotel Group与埃森哲合作,基于OpenAI技术开发ChatGPT插件,让旅客在做旅行计划时直接搜索、比较和预订酒店。此举显示酒店预订正被嵌入对话式AI入口。