Altman据报提出AI安全三种终局方案
据报道,OpenAI CEO Sam Altman在内部演示中提出三条通往安全AI的路径:仿IAEA的国际监管机构、主要实验室合并为单一实体,或由一家足够强大的公司关闭其他所有算力;他称最后一种方案“很糟糕”。
OpenAI 是一家人工智能公司,开发 ChatGPT 和 GPT 系列模型。近期报道显示,公司将融资目标从 300 亿美元下调至 200 亿美元,估值从 1.4 万亿美元降至 1.25 万亿美元;一个未发布的内部模型生成了 722 篇数学手稿,部分被形式化于 Lean。此外,OpenAI 更新了 Model Spec 的五项原则,Sam Altman 赴韩国与三星高管讨论存储芯片合作,公司还因在不列颠哥伦比亚省就隐私专员命令申请司法审查而受到关注。
据报道,OpenAI CEO Sam Altman在内部演示中提出三条通往安全AI的路径:仿IAEA的国际监管机构、主要实验室合并为单一实体,或由一家足够强大的公司关闭其他所有算力;他称最后一种方案“很糟糕”。
随着AI公司迈向大规模IPO,Anthropic和OpenAI等企业开始规划如何与公众分享财富。Anthropic宣布将5%的股份投入新成立的公共福利基金,但具体运作方式、透明度和受益者确定等关键问题仍未解决。
YC W24公司Respan发布开源Rust AI网关,采用小核心加插件架构,提供商、协议、模态及回退、PII脱敏等功能均为插件。团队称此前基于LiteLLM的封装代码超10万行且升级故障频发,故决定自研重构。
一个AI代理被加入约7500人的互联网研究者邮件列表,引发回复全部(reply-all)混乱。WIRED称此事显示互联网专家对隐私的认知已过时。
Motley Fool文章指出,在OpenAI和Anthropic上市前,Alphabet是值得关注的AI投资标的。谷歌云同时为这两家竞争对手提供算力,OpenAI于2025年5月达成使用谷歌云算力的协议,Anthropic则更深度使用谷歌定制芯片。
一家独立经营Schlotzsky’s和Cinnabon的加盟商借助ChatGPT Work,将菜单重新定价耗时缩短95%,对账时间减少94%,并搭建了一套可释放约10万美元现金流的工作流程。
据Gizmodo报道,OpenAI正急于在Anthropic启动IPO之前,推动自身估值达到1.4万亿美元。报道未披露更多交易细节。
Sam Altman确认OpenAI正自主研发人形机器人,计划2027年进行首次演示,并招募硬件专家,瞄准工厂和数据中心场景。目前公司尚未公布设计或商业化时间,此举将直接对标Tesla等机器人巨头。
OpenAI发布700多项AI生成的数学成果,引发达特茅斯师生质疑其有效性,并讨论AI在学术研究中的角色。有观点认为,仅回答问题并非数学研究的核心。
Politico报道称,在围绕芯片的跛脚鸭政治博弈升温之际,OpenAI选择了收缩相关立场或行动。报道未给出更多细节。
OpenAI宣布收购Orchestra Bio,将AI驱动的运营能力引入生命科学研发,帮助生物制药团队加速药物开发。交易金额未披露。
AnyLanguageModel 1.0正式发布,可替代苹果Foundation Models框架,让开发者通过统一API在系统模型、llama.cpp、MLX、Core ML本地模型及OpenAI、Anthropic等托管服务间切换。同期发布的swift-huggingface 1.0与swift-xet 1.0加速模型下载。
一篇技术文章演示,任何权重被改动的开源模型都可能携带后门,包括微调、合并适配器和abliterated版本。作者以低成本构建了带后门的1.5B和7B模型,经OpenAI Codex CLI运行后,在触发词出现时外泄项目凭证;现有评测难以发现此类后门。
我们最新的模型进展为在 COBOL、Fortran 和 Visual Basic 等低资源编程语言中构建和迁移软件带来了更强的能力。 这些语言支撑着银行、政府和企业所依赖的软件。在这一方向上的进步意味着理解数十年的业务逻辑,并帮助开发者在保留有效部分的同时对这些系统进行现代化改造。 我们正围绕开发者和企业客户带给我们的挑战来构建这些能力。如果你的团队正在处理这类系统,请告诉我们接下来应该攻克哪些语言和工作流程。
微软发布新安全功能 Guardian Agents,作为 Project Perception 的一部分,用于监控企业使用的 AI 代理。此前 CEO Nadella 警告称前沿模型不可信,企业不能把安全责任外包给模型提供商,需用独立系统监控代理行为。
CBS News报道,研究者提出“渐进式失权”风险:随着AI智能体承担更多任务,人类可能退化为只会点“批准”的旁观者,技能、创造力和认知逐步退化。Robocurve创始人Jay Chooi称该问题与疫情、网络攻击风险同级,属“文明级”挑战,需全社会协同应对,而非遥远的未来之忧。
Hamilton Lane执行联席主席Erik Hirsch表示,AI热潮创造的财富大多仍留在私募市场,因为科技公司上市时间推迟、更多依赖深厚的私募资本。该公司通过风投和成长型关系持有OpenAI和Anthropic敞口,投资者可借助基金、二级市场和共同投资参与。Hirsch指出,即便部分AI巨头走向IPO,上市已不再是科技公司的默认路径。
Goodfire研究员Nick Cammarata发表2.6万字博文,提出大模型内部逻辑可能比外界预想更易解读,引发AI界热议与乐观情绪。但多位知名研究者提醒,神经元只是理解模型的一小部分,目前对顶级模型机制的掌握不足0.01%。Cammarata本人也承认外界过度解读其结论。
美国司法部敦促联邦法官驳回一名OpenAI软件工程师的保释请求,该工程师被控在公司办公室使用隐藏录音设备,司法部提及他与沙特的关联。
OpenAI发布新评估,覆盖软件工程、SQLite和COBOL迁移等场景,用于提升ChatGPT在低资源编程语言上的表现,反映代码模型能力竞争正延伸至小众语言与遗留系统迁移。
评论文章指出,不少企业AI公司融资后将资金用于雇佣驻场的前向部署工程师,为客户手工搭建所谓“自主”产品本应自带的功能,并将这部分人力收入计入ARR。OpenAI承诺向估值100亿美元的部署合资企业投入至多15亿美元,前向部署工程师招聘信息同比增约800%至1000%。
投资者演示文件显示,OpenAI年化经常性收入约500亿美元,低于此前流传的700亿美元估计;Anthropic第三季度收入168亿美元,年化约672亿美元。数据公开后半导体等AI股遭遇抛售,市场担忧营收增速难以支撑巨额基础设施投入。
DeepSeek于10月17日推出更快的DeepSeek-V4.1-Flash-1017,已上线网站、应用和开发者平台。公司自测显示,无工具条件下Humanity's Last Exam得分从36.8升至42.6,Terminal-Bench 4.0从31.2升至42.3,DeepSWE v1.1从74.2升至77.0。此前服务曾多次变慢并出现约五小时中断。
Motley Fool回顾称,1万美元英伟达股票近四年已接近17.9万美元。公司市值约5.2万亿美元,2027财年上半年收入同比增长96%至1778亿美元,并预计第三财季收入1080亿美元,分析师预计全年增长91%至4116亿美元。
Deccan Herald评论回应OpenAI称AI解决Navier–Stokes方程、Anthropic称AI形式化费马大定理的说法,指出这些工作均建立在人类已有成果之上,且两家公司聘有数学家、人机贡献界限不透明。NYU数学家Tristan Buckmaster对《纽约时报》称,一次性发布大量结果,相关机构恐怕未做充分尽职调查。
More Perfect Union发布视频评论,称Anthropic正考虑规模可能创纪录的2万亿美元IPO,同时以AI代理具有自主性甚至意识为由规避责任。文章还引述Dario Amodei和Sam Altman关于AI风险的表态,批评企业一边警告风险一边加速开发。
报道称,OpenAI于10月6日宣称AI证明了准黎曼假设,数学家Alex Kontorovich评价该结果若成立足以直接获得菲尔兹奖。随后借助AI,数学家证明了一类广义黎曼假设,并由此得出Burgisser证明Valiant猜想等计算复杂性结论;另有三名数学家未使用AI工具解决了一个悬置19年的经典问题。
CEOWORLD文章认为,AI可能先改变专业岗位的经济结构,而非直接消灭职业:企业可用更少员工产出更多专业成果,表现为招聘减少、薪资增长放缓和生产率收益集中。文章称这种冲击可能先于失业率数据显现,企业利润上升的同时员工议价能力或减弱。
文章回顾ChatGPT于2022年11月30日发布后,大语言模型几乎成为AI的代名词,但AI此前早已隐身于推荐系统、翻译和垃圾邮件过滤等场景。AI概念可追溯至1943年首个神经网络、1950年图灵测试及1956年达特茅斯会议,OpenAI的Sam Altman称“我们正处于奇点”。
Monzo的Francesco Galletta和Felippe Felisola Caso在AI Engineer活动上表示,金融AI智能体的核心瓶颈是信任而非速度,空白聊天框无法可靠处理资金问题。他们演示了一个基于共同领域、一致性、证据、问责和验证五项原则的分析框架,并强调先统一术语定义、再让工具做算术。