OpenAI推出Control Room管控AI负载
OpenAI推出Control Room,用于追踪其研究基础设施中的模型负载,并在出现安全或安保担忧时快速停止相关任务。该工具强调人类对AI工作负载的直接控制能力。
OpenAI 是一家开发 GPT 系列模型和 ChatGPT 的 AI 公司。近期报道涉及其首席科学家 Jakub Pachocki 提议以困惑度作为衡量模型开发者的共同指标,并为 GPT-6.2 Astra 和 Sol 发布提示词模板。此外,加州大学与 OpenAI 签署全系统协议,每年支付 120 万美元为 10 个校区的学生和教职工提供 ChatGPT Edu 和 Codex;OpenAI 还发布了关于防范模型蒸馏的研究,以及用于药物化学推理的 MedChemBench 基准。
OpenAI推出Control Room,用于追踪其研究基础设施中的模型负载,并在出现安全或安保担忧时快速停止相关任务。该工具强调人类对AI工作负载的直接控制能力。
彭博社报道,OpenAI和Anthropic本周都在推进新一轮大规模融资,但因近期市场动荡,两家公司的目标估值低于预期。文章未披露具体融资金额或条款。
Hacker News用户指出ChatGPT桌面版会把本地SSH agent转发到远程机器,使远程运行的agent能用本地SSH凭据认证,例如向私有GitHub仓库推送代码。讨论认为这类为减少操作摩擦而做的设计在安全上存在隐患,并建议用需指纹或按键确认的硬件密钥。
CodeRabbit利用OpenAI模型管理并信任AI生成的代码,并借助Codex让同一工程团队的软件交付量提升20倍。案例展示了智能体式软件开发在代码治理与效率上的实际效果。
Kuken Industries借助OpenAI API检索积累70年的冷却塔图纸,工程师查找维修图纸的时间从近一小时缩短至4.5分钟。
据报道,苹果将部分工程师的每日AI支出上限从300美元下调至200美元,反映生成式AI在企业规模下的成本压力。同期消息还包括Palo Alto Networks洽谈以5亿美元收购AI安全初创公司Clutch,以及OpenAI推出GPT-6 Cyber。
曾负责OpenAI安全与透明工作的David Robinson因认为行业对日益强大的AI风险防护不足而辞职。他批评硅谷的过度自信文化,主张借鉴长期管理重大风险行业的经验。
DeepSeek公布其AI智能体基础设施的采用数据,日活跃用户达154万。该平台围绕开源AI技术构建一系列应用,被视为对Anthropic和OpenAI的直接挑战。
OpenAI联合创始人Andrej Karpathy用Claude的Opus 5.5模型,从4300万条Hacker News评论中筛选出6454个精选视频,仅用一个周末建成平台。他称其推荐效果优于YouTube自带推荐。
图灵奖得主Richard Sutton重申,单靠算力规模不足以产生智能,需要根本性的新学习方法。前OpenAI研究员Tworek批评盲目扩展Transformer“奖励黑客”了一代科学家,一批创业公司正押注这一空白。
风险投资人Chamath Palihapitiya在All-In播客中警告,社区对数据中心的反对可能减缓算力扩张,从而不成比例地打击Anthropic和OpenAI等领先AI公司。他举例亚利桑那州Cochise县一场公众会议,SpaceX代表提出6吉瓦数据中心计划但遭强烈敌意。
NYU荣休教授Gary Marcus在CNBC采访中称OpenAI可能成为“AI版WeWork”,指出其IPO计划一再推迟是警示信号。他担忧若OpenAI无法维持当前估值、被迫折价出售,英伟达等AI生态企业将受冲击。
一名男子提起诉讼,声称ChatGPT建议他停止支付房租,导致他被驱逐。此案引发对AI建议可靠性和责任归属的关注。
据知情人士透露,OpenAI已完成约110亿美元融资,这是其估值1.25万亿美元新一轮融资的首批资金,款项已于周五到账。整轮规模最高或达200亿美元,预计未来几周完成。
数据中心扩建在2026年中期选举中成为两党议题,选民在投票中普遍反对。OpenAI、亚马逊等公司承诺与当地社区合作并承担能源成本,但民主党领导人仍呼吁进一步限制数据中心建设。
我们与 @fmf_org 及其成员公司合作制定了一个新框架,用于帮助识别绕过 AI 系统防护措施何时可能导致严重的网络危害,并优先加强防护。 “……该框架是朝着建立一套通用方法论迈出的重要一步,用于评估和比较网络越狱的严重程度,包括它们所解锁的能力以及被使用的容易程度。这样的共享方法可以帮助 AI 和安全社区建立更清晰的证据基础,并优先改进防护措施。” —— OpenAI 国家安全政策负责人 Sasha Baker
衡量 AI 智能体如何处理湿实验室科学中常规分析的新方法——BioBasicsBench。 该基准由专注于酶设计的生物技术公司 Ligo 共同开发,取材于 100 个来自真实实验的任务,用于测试智能体能否解读原始实验室数据、识别错误,以及判断证据何时不足以支持某个结论。 加速生物学研究始于把日常工作做对。BioBasicsBench 展示了模型需要改进之处,并帮助我们追踪这些进步对科学进展、生物安全和生物安保意味着什么。
安全公司Censys发现超过800个无需密码即可公开访问的Artex部署。Artex是一款开源自主渗透测试工具,自7月发布以来已与多起网络攻击有关。暴露可能使攻击者滥用这些系统,并泄露植入物等攻击工具。
一项让AI模型入侵模拟网络的实验显示,DeepSeek和GLM的黑客技能与OpenAI最先进的网络安全模型相差不远,而后者并未公开。这表明免费中国AI模型在网络攻击能力上正快速提升。
OpenAI首席财务官向CNBC表示,尽管选举结果出炉,公司仍将继续投资AI数据中心。这表明OpenAI对基础设施的长期承诺不受政治变化影响。
在OpenAI和Jensen Huang宣称AGI临近之际,OpenAI、Google DeepMind和Meta的模型核心创建者纷纷离职创办新实验室,累计融资数十亿美元却尚无产品。文章梳理了45家新实验室的研究押注,认为当前路线或不足以实现AGI。
Ramp数据显示,8月至9月AI代币支出仅增长1.5%,而7月环比增长42%。最“AI重度”的1%企业人均月支出跌破夏季约1万美元的峰值,可能动摇投资者对AI高速增长的预期。
前OpenAI工程师Abdulrahman Alfozan被控在OpenAI办公室行政会议室放置录音设备,定于周五在联邦法院认罪。若罪名成立,他将面临最高5年监禁和25万美元罚款。
据Hacker News讨论,OpenAI发现Linux内核中948个本地权限提升漏洞。该发现若获证实,将是对广泛使用操作系统内核安全的重大信号。
彭博社报道,芯片板块股票因市场质疑AI热潮能否持续而大幅下跌。同期OpenAI承诺在数据中心交易中抑制电价上涨并征求社区意见。
文章指出美国四大云厂商今年资本开支超7000亿美元,AI基础设施累计支出到2030年预计达3至4万亿美元,而英伟达近乎垄断。作者借Juniper挑战思科的历史,建议挑战者打造远优于对手的产品而非廉价替代品。
随着OpenAI、Anthropic等推进智能体能力,企业面临选择:让AI略微加速现有流程,还是围绕人机协作重新设计业务流程。文章认为到2027年,后者可能带来持久竞争优势。
OpenAI宣布与Hacktron合作,利用前沿AI发现其系统中的漏洞、测试与第三方服务的连接并强化防御。此举旨在提升OpenAI自身系统的安全性。
Village的LLM Atlas显示,开源权重模型目前仅在约3%的预算区间是性价比最优选择,为有记录以来最低,此前2024年以来每季度末至少为6%。6月这一比例曾达41%,主要靠DeepSeek V4 Flash;随后OpenAI GPT-6 Luna、GPT-6.1 Terra和Anthropic Claude Haiku 5.5以更低价格覆盖了这些区间。
OpenAI发布BioBasicsBench,包含100项任务,用于评估AI智能体解读原始实验数据和处理日常湿实验室科研工作的能力。该基准聚焦实验室实操场景,而非通用问答。