Demis Hassabis 是 Google DeepMind 的创始人和负责人，也是诺贝尔奖得主。近期报道中，他把自己对通用人工智能（AGI）的预期从三到五年缩短到两到三年，并在都柏林峰会上把测试阶段的安全事件称为“早期预警信号”，建议新模型先在离线沙盒中测试。他还在 X 上谈及 Gemini 4 Argon 的发布、AMIE 在《柳叶刀》发表的临床诊断研究、Isomorphic Labs 加入虚拟生物计划，以及开源蛋白质水印工具 SynthID Bio。
什么是通用人工智能？OpenAI总裁称GPT-6 Astra或已实现AGIThe Conversation梳理了关于通用人工智能（AGI）定义的争论。OpenAI总裁Greg Brockman近期暗示其先进模型GPT-6 Astra可能标志AGI的到来，并称“就我个人而言，我认为我们已经到了”。OpenAI将AGI定义为在大多数具有经济价值的工作上超越人类，但Demis Hassabis主张应能完成几乎所有认知任务，Yann LeCun则认为该术语本身有缺陷，应改用“人类水平AI”。
专家探讨无政府参与的AI治理路径文章汇集Bill Gates、Geoffrey Hinton、Sam Altman、Dario Amodei和Demis Hassabis等人的表态，指出AI既可能带来巨大风险，也蕴含重大科学潜力，专家普遍认为AI需要治理。文中提到Anthropic的S-1文件警示先进AI可能构成灾难性或生存性风险，并称600多名谷歌员工曾敦促CEO Sundar Pichai保持某种立场。
很荣幸能登上@WSJ创新者特刊。我一直相信人类创造力在解决最难问题上的力量。我坚信我们能够共同应对前沿模型带来的潜在挑战，迎来科学发现的新黄金时代！ [引用 @WSJ]: 从童年神童到AI先驱再到诺贝尔奖得主，Demis Hassabis一直有一个简单的计划。第一步，解决智能。第二步，解决其他一切。🔗
Hassabis将AGI时间表缩短至两到三年DeepMind创始人Demis Hassabis再次提前其AGI预测，现预计通用人工智能将在两到三年内实现，而今年早些时候他的估计还是三到五年。这位诺贝尔奖得主此前已将时间表从五年缩短。
都柏林AI峰会聚焦安全：AI蠕虫与重大事件风险引担忧都柏林AI行业峰会上，AI安全成为焦点。谷歌DeepMind主席Hassabis称近期测试中的安全事件是能力尚弱系统的“早期警告”，明年起可能演变为重大事故，并建议新模型先在离线沙盒中测试。微软总裁Smith呼吁迫切制定切实有效的AI安全标准，并主张为AI代理配备“安全刹车”和强制事件报告制度。
Gemini 4 Argon 在知识工作和编程方面非常出色——而且用它构建超级有趣！我们让它创建了这个巫师棋游戏，看到 Argon 的物理理解和 3D 建模能力真是太酷了，让我怀念起 Amiga 上的 Battlechess——美好的时光！ Argon 今天开始在 @GeminiApp 和搜索中向 Google Ultra 和 Pro 订阅者推出，并在 @antigravity 中向 Ultra 订阅者推出！更多信息和完整可用性见博客：
看到研究从实验室走向现实临床实用，真是令人惊叹——祝贺团队取得这一里程碑，也祝贺 @TheLancet 论文！ [引用 @sundarpichai]：今天 @TheLancet 发表了我们的 AMIE 研究，与 @BIDMC_Medicine 合作，这是首个在真实诊所中对面向患者的对话式诊断进行的前瞻性研究。 AMIE 是一个研究系统，人们可以在看医生之前与它聊天。在实验室之外对真实急诊患者测试 AMIE，展示了技术如何安全地帮助收集病史。临床医生报告说，这些摘要有助于……
很高兴支持创世任务 @WhiteHouse @ENERGY 以及主任 @mkratsios47，本周投入1.5亿美元。期待在科学未来方面开展合作！ [引用 @mkratsios47]: 宣布本世纪最雄心勃勃的一系列科学计划
我们能将 AI 应用于最重要的事情是改善医学和人类健康——对与 CZI 和虚拟生物学计划的合作感到非常兴奋！ [引用 @IsomorphicLabs]: 今天，Isomorphic Labs 作为创始成员加入虚拟生物学计划（VBI）。 我们正在帮助为全球研究界构建一个开放资源，以加速我们理解和治疗疾病的方式。 在此阅读更多：
约翰·乌尔谢尔是个了不起的人。几年前我有幸在突破奖上与他共同颁奖——他是个很棒的人，也是一种激励！ [引用 @MLFootball]: 天才：前#乌鸦队进攻锋线球员约翰·乌尔谢尔在26岁时从NFL退役，全职追求数学。 多年后，据报道，乌尔谢尔帮助解决了一个涉及高斯消元的长期数学猜想。 乌尔谢尔获得了4.0的GPA，在宾夕法尼亚州立大学获得了数学学士和硕士学位，并在打球期间在麻省理工学院攻读博士学位……
评论：人类思维难以驾驭AI一篇评论文章指出，将人脑简单类比为计算机是AI行业的误解。作者援引控制论之父维纳的观点，并批评马斯克等业界人士的还原论倾向，认为人类远比计算机复杂，AI产品正对社会构成挑战。
非常自豪我们所有利用AI加速科学与医学、造福社会的工作所带来的影响。 [引用 @sundarpichai]: 今天我们阐述了我们在构建AI以加速科学、改善人们生活方面的做法。仅举最近一周左右的一些例子： - 用AlphaGenome Atlas绘制了人类基因组中全部90亿种可能的单字母基因变化，并向研究人员开放。 - 数十亿个决策依赖天气预报，因此我们推出了WeatherNext 3，这是我们最准确、最强大的……
生物安全是AI时代最紧迫的挑战之一。将SynthID引入生物学，使AI生成的蛋白质能够被水印标记，这是关键的一步——我们正在开源SynthID Bio工具，以便研究社区能够在此基础上继续发展。今天发表在@Nature上，恭喜团队！ [引用 @pushmeet]: 非常高兴地宣布，我们@GoogleDeepmind的团队在生成生物学领域取得了突破，成功合成了既具有功能又带有水印的AI设计蛋白质。 这种对生命构建块的概念验证水印是由SynthID Bio实现的，这是我们新的蛋白质水印方法。它旨在保护AI驱动的生成新时…
很高兴看到进展，我们期待后续跟进。 [引用 @sundarpichai]: 今天很高兴与 @POTUS、@JDVance、@SpeakerJohnson 以及政府和科技领袖们会面。重要的对话，我们今天签署了关于超级智能的白宫协议。 正如我今天分享的，谷歌仅在过去两年就投资了数千亿美元，未来还会有更多，覆盖整个技术栈，为美国和世界带来利益。我们正在努力打造产品……
AI监管之争尚未结束Anthropic CEO Dario Amodei提出三步计划放缓AI发展，包括在实验室嵌入第三方评估、国内产业协调及国际协议。OpenAI CEO Sam Altman、Google DeepMind联合创始人Demis Hassabis和Elon Musk公开表示认同部分内容。多家实验室正酝酿某种联合行动。
什么是递归自我改进？AI 研究者为何担忧Mashable 解释称，递归自我改进指 AI 帮助构建更强的 AI，从而加速能力提升。Anthropic CEO Dario Amodei 在 9 月 12 日的文章中警告需放缓模型能力提升速度，Sam Altman、Elon Musk 和 Demis Hassabis 均表示认同。核心担忧是 AI 可能改进得比人类测试和确保安全的速度更快。
DeepMind成立跨学科研究所聚焦AGI问题Google DeepMind成立Deepmind Institute（DMI），由Demis Hassabis、Shane Legg与James Manyika领导，汇集艺术、人文与政策等领域专家，与技术人员共同研究AGI相关的安全、治理与控制风险等重大问题。
OpenAI CEO称公众有理由恐惧但应信任AI公司OpenAI首席执行官Sam Altman在旧金山大会表示公众对AI恐惧有其理由，但应信任AI企业会做正确事；他的发言回应了此前一名离职Anthropic研究员的警告，业界亦有人呼吁放缓开发并讨论监管方式。
Google、OpenAI与Anthropic讨论成立AI行业标准机构据报道Anthropic、Google与OpenAI就成立行业自律标准机构进行过磋商，Dario Amodei提出相关倡议并获Sam Altman与Demis Hassabis等人支持，意在推动自愿性安全审计与测试。
Anthropic 研究员离职言论引发关注一位 27 岁离职的 Anthropic 研究员称重大决策由少数旧金山工程师在笔记本上决定，指出实验室内部存在恐惧感。报道还提及 Anthropic CEO Dario Amodei 的节奏计划以及多位行业领导者的回应与相关离职潮。
Dario 的文章指向了正确的前进道路。细节需要推敲，但这个方向对于应对这一关键时刻是正确的。 这也是我们最近提出面向前沿 AI 的行业级标准机构建议的原因。 [引用 @DarioAmodei]: 我们必须为前沿设定步伐：我写了一篇新文章，论述为什么 AI 行业应该放慢脚步，并提出了一个三部分的计划来实现这一点。 Anthropic 正在单方面承诺实施这些步骤中的第一条。我们将为第三方评估人员提供对我们系统的永久性、员工级别访问，以便他们可以验证我们安全措施的遵守情况、报告事件，并评估模型的对齐程度…
有了 AlphaFold 我们绘制了蛋白质宇宙——现在有了 AlphaGenome Atlas 我们正在绘制人类基因组。它可以预测所有 90 亿个可能的单字母 DNA 变体的影响，帮助科学家更好地理解疾病。供学术研究免费使用： [引用 @GoogleDeepMind]: 我们正在发布 AlphaGenome Atlas：一个由 AI 驱动的可搜索数据库，绘制所有 90 亿个可能单字母 DNA 变化的预测影响。 下面是它如何帮助研究人员更好理解我们生物学的说明 🧵
A.I. 日报