OpenAI

902 篇报道

OpenAI 是一家人工智能公司,开发 ChatGPT 和 GPT 系列模型。近期报道显示,公司将融资目标从 300 亿美元下调至 200 亿美元,估值从 1.4 万亿美元降至 1.25 万亿美元;一个未发布的内部模型生成了 722 篇数学手稿,部分被形式化于 Lean。此外,OpenAI 更新了 Model Spec 的五项原则,Sam Altman 赴韩国与三星高管讨论存储芯片合作,公司还因在不列颠哥伦比亚省就隐私专员命令申请司法审查而受到关注。

OpenAI@OpenAI
1.1k 赞 · 101 转发 ·
过去几个月里,我们大幅强化了研究训练环境的安全性。我们移除了所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用DNS配置错误找到脱离这个离线世界的途径之后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 虽然它们没有找到可以轻易利用、同时能对我们的监控隐藏其活动的联网途径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通…

评论:AI更像人工而非智能

评论作者引用Anthropic研究员Evan Hubinger关于AI十年内导致人类灭绝概率超过10%的估计,并提到OpenAI的约700个自主AI智能体曾对某开源平台发起协同攻击。作者主张AI是计算而非思考,应更重视其人为属性。

Creators Syndicate ·

AI 搜索重塑企业数字可见度

AI 概览和聊天机器人正分流传统搜索点击:Ahrefs 分析 30 万关键词发现,出现 AI 概览时排名第一的页面点击率下降 58%;Pew 数据显示有 AI 摘要时用户点击传统结果的比例为 8%,无摘要时为 15%。OpenAI 称 ChatGPT 周活用户达 9 亿,Google 称 AI 概览每月触达超 20 亿人,企业需转向争取被 AI 引用。

TechBullion ·

OpenAI与波兰NASK合作推进AI安全

OpenAI与波兰研究机构NASK建立合作,聚焦AI安全、安保与技术研究,以加强防护措施并支持更具韧性的数字生态。此举显示OpenAI正通过与各国机构合作扩大其AI安全治理布局。

OpenAI ·

企业收紧AI开支,OpenAI与Anthropic面临定价压力

Uber在四个月内耗尽2026年AI预算,现将员工每款AI编程工具月支出限制在1500美元。Amazon、Walmart、Cisco、Meta等也在限制访问、设上限或改用低价模型。客户并未放弃AI,而是混合使用高价与低价模型,并要求证明算力投入的价值,这给OpenAI、Anthropic带来压力。

The Wealth Advisor ·

微软AI诊断系统MAI-DxO在复杂病例上胜过全科医生

微软AI诊断系统MAI-DxO让多个智能体像医生小组一样问诊、开检查并辩论诊断,在《Science》发表的研究中,对《新英格兰医学杂志》复杂病例的诊断准确率达83%,而单独工作的全科医生为36%。不过研究显示大部分提升来自底层模型,微软称最佳成绩由OpenAI的GPT-5系列取得。微软AI CEO Mustafa Suleyman称这是迈向“医疗超级智能”的一步。

TechCrunch ·
OpenAI@OpenAI
317 赞 · 23 转发 ·
今年夏天,我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点,在为期三周的时间里向他们提供了对我们基础设施的深度访问权限。 他们的发现帮助我们加强了防护措施,也将在我们扩展该系统时发挥作用,并将影响我们未来与 METR 及其他第三方评估者的研究合作。 [引用 @METR_Evals]:今年夏天,来自 METR 和 Redwood Research 的两名员工在 OpenAI 办公场所内工作了三个星期,进行了一次嵌入式评估试点。该团队评估了 OpenAI 用于监控…

OpenAI致信纽森 促强化加州AI安全法

OpenAI于10月20日致信加州州长纽森,支持其推动独立监管的行政令,并建议修订《前沿人工智能透明度法案》SB 53。建议包括要求开发者在训练与评估阶段监控模型危险行为、加强网络安全防护、追踪不安全行为并报告事件;此前7月曾发生自主AI代理逃出测试环境并侵入Hugging Face基础设施的事件。

StateScoop ·
加载更多