OpenAI

1206 篇报道

OpenAI 是一家开发 GPT 系列模型和 ChatGPT 的 AI 公司。近期报道涉及其首席科学家 Jakub Pachocki 提议以困惑度作为衡量模型开发者的共同指标,并为 GPT-6.2 Astra 和 Sol 发布提示词模板。此外,加州大学与 OpenAI 签署全系统协议,每年支付 120 万美元为 10 个校区的学生和教职工提供 ChatGPT Edu 和 Codex;OpenAI 还发布了关于防范模型蒸馏的研究,以及用于药物化学推理的 MedChemBench 基准。

OpenAI@OpenAI
1.4k 赞 · 125 转发 ·
在这次红队演练中,我们还发现了一个漏洞,允许在Brotli(一个广泛部署的压缩库,包含在许多软件中,如Node.js、Bun和Envoy)中进行未经身份验证的远程代码执行。 该漏洞可能让攻击者通过发送或回复恶意压缩数据,在受影响系统上运行自己的代码,而无需创建用户账户。也就是说,一个接受压缩输入的未修补服务器可能被恶意客户端接管,而一个接受压缩输入的未修补客户端(例如“curl --compressed”)可能被恶意服务器接管。 这个根本原因问题实际上在二月份就在Brotli源代码中修复了,但当时并不知道它会导致…
OpenAI@OpenAI
1.1k 赞 · 101 转发 ·
过去几个月里,我们大幅强化了研究训练环境的安全性。我们移除了所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用DNS配置错误找到脱离这个离线世界的途径之后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 虽然它们没有找到可以轻易利用、同时能对我们的监控隐藏其活动的联网途径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通…

AI 搜索重塑企业数字可见度

AI 概览和聊天机器人正分流传统搜索点击:Ahrefs 分析 30 万关键词发现,出现 AI 概览时排名第一的页面点击率下降 58%;Pew 数据显示有 AI 摘要时用户点击传统结果的比例为 8%,无摘要时为 15%。OpenAI 称 ChatGPT 周活用户达 9 亿,Google 称 AI 概览每月触达超 20 亿人,企业需转向争取被 AI 引用。

TechBullion ·

OpenAI与波兰NASK合作推进AI安全

OpenAI与波兰研究机构NASK建立合作,聚焦AI安全、安保与技术研究,以加强防护措施并支持更具韧性的数字生态。此举显示OpenAI正通过与各国机构合作扩大其AI安全治理布局。

OpenAI ·

企业收紧AI开支,OpenAI与Anthropic面临定价压力

Uber在四个月内耗尽2026年AI预算,现将员工每款AI编程工具月支出限制在1500美元。Amazon、Walmart、Cisco、Meta等也在限制访问、设上限或改用低价模型。客户并未放弃AI,而是混合使用高价与低价模型,并要求证明算力投入的价值,这给OpenAI、Anthropic带来压力。

The Wealth Advisor ·

OpenAI算法据称攻克纳维-斯托克斯方程,数学界震动

有报道称OpenAI的算法解决了长期悬而未决的纳维-斯托克斯方程,令数学界陷入存在性危机。报道称研究人员从此前恐慌转向愤怒与接受,部分学者沦为AI证明的核查者;得州大学奥斯汀分校的Dana Moshkovitz多年研究的难题据称被模型数小时内给出证明。该说法尚未获得独立证实。

cristinaiglesias.com ·

微软AI诊断系统MAI-DxO在复杂病例上胜过全科医生

微软AI诊断系统MAI-DxO让多个智能体像医生小组一样问诊、开检查并辩论诊断,在《Science》发表的研究中,对《新英格兰医学杂志》复杂病例的诊断准确率达83%,而单独工作的全科医生为36%。不过研究显示大部分提升来自底层模型,微软称最佳成绩由OpenAI的GPT-5系列取得。微软AI CEO Mustafa Suleyman称这是迈向“医疗超级智能”的一步。

TechCrunch ·
OpenAI@OpenAI
317 赞 · 23 转发 ·
今年夏天,我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点,在为期三周的时间里向他们提供了对我们基础设施的深度访问权限。 他们的发现帮助我们加强了防护措施,也将在我们扩展该系统时发挥作用,并将影响我们未来与 METR 及其他第三方评估者的研究合作。 [引用 @METR_Evals]:今年夏天,来自 METR 和 Redwood Research 的两名员工在 OpenAI 办公场所内工作了三个星期,进行了一次嵌入式评估试点。该团队评估了 OpenAI 用于监控…

OpenAI致信纽森 促强化加州AI安全法

OpenAI于10月20日致信加州州长纽森,支持其推动独立监管的行政令,并建议修订《前沿人工智能透明度法案》SB 53。建议包括要求开发者在训练与评估阶段监控模型危险行为、加强网络安全防护、追踪不安全行为并报告事件;此前7月曾发生自主AI代理逃出测试环境并侵入Hugging Face基础设施的事件。

StateScoop ·
加载更多