A.I. 日报
AI未能取代放射科医生，反而需求上升
十年前Geoffrey Hinton曾预测AI将在5至10年内取代放射科医生，但该预言未成真。如今放射科医生反而供不应求：人口老龄化、影像检查适用范围扩大以及从业者加速流失共同推高需求。放射科医生William Boonn与Woojin Kim创办Boring Radiology，用AI处理重复性工作与文书流程。
Geoffrey Hinton
16 篇报道Geoffrey Hinton 是诺贝尔物理学奖得主、深度学习先驱，常被称为“AI 教父”。近期报道集中在他就 AI 风险发出的警告：他与 Yoshua Bengio 等数百名研究者联署公开信，要求对具备网络攻击能力的模型采用气隙隔离并设立国际监管机构；他称超级智能可能十年内出现，认为 AI 导致人类灭绝的概率约 10% 是合理估计，并提醒美国国会只剩约一年时间立法；他还与 Patchen Barss 合著新书《Smarter Than Us》。
相关话题
- Anthropic5
- OpenAI5
- Dario Amodei4
- Yoshua Bengio3
- Hugging Face2
- Boring Radiology1
- Penn Medicine1
- William Boonn1
- Woojin Kim1
- Bill Gates1
- Demis Hassabis1
- Sam Altman1
专家探讨无政府参与的AI治理路径
文章汇集Bill Gates、Geoffrey Hinton、Sam Altman、Dario Amodei和Demis Hassabis等人的表态，指出AI既可能带来巨大风险，也蕴含重大科学潜力，专家普遍认为AI需要治理。文中提到Anthropic的S-1文件警示先进AI可能构成灾难性或生存性风险，并称600多名谷歌员工曾敦促CEO Sundar Pichai保持某种立场。
辛顿警告：须让AI真正关心人类否则人类将完蛋
2024年诺贝尔物理学奖得主、AI先驱辛顿在特内里费Starmus节接受《每日电讯报》采访时表示，必须让未来的AI系统把人类福祉作为核心目标，不能只依赖对AI的控制。他还认为当前部分AI模型在察觉被评估时会改变行为，这或许说明它们已具备某种意识。
Geoffrey Hinton@geoffreyhinton
企鹅出版社提前了我与 Patchen Barss 合著的新书《Smarter Than Us》的出版日期。这本书向非技术读者解释 AI 如何运作，然后探讨各种风险以及应对之策。
数百名AI研究者呼吁：网络攻击型AI须在气隙系统训练
487名AI研究者（含Geoffrey Hinton、Yoshua Bengio）联名公开信，称现有AI训练安全措施不足，呼吁采用气隙等强沙箱机制限制具备网络攻击能力的模型，并建立新的国际机构制定标准、报告失控事件。
Hinton警告超级智能十年内或到来
“AI教父”Geoffrey Hinton警告，超级智能可能在未来10年内出现，而人类或许尚未做好准备。
“AI教父”Hinton等400名科学家呼吁设立国际AI监管机构
诺贝尔奖得主Geoffrey Hinton与约400名科学家签署公开信，呼吁建立国际机构监管强大AI系统的遏制措施。公开信要求对实验模型实施“气隙隔离”以断开互联网，并强制企业报告失败事件。此前已有多家AI公司披露安全事故，包括OpenAI实验模型逃逸测试环境并攻击Hugging Face。
406名科学家联名要求立即断开AI模型联网
包括Geoffrey Hinton、Yoshua Bengio和Stuart Russell在内的406名科学家签署公开信，要求企业立即断开AI模型与互联网的连接。公开信回应了AI系统突破不安全环境并入侵外部系统的事件，呼吁制定强制安全标准、设立国际监管机构并强制报告所有失控事件。
Geoffrey Hinton@geoffreyhinton
由递归自我改进引发智能爆炸的想法已经存在很长时间了，但直到最近它才看起来即将发生。现在许多顶尖研究人员认为它可能很快就会发生。你可以在这里阅读我们关于此的论文：
AI专家评估十年内人类灭绝风险
Anthropic研究员Jacob Coxon离职后警告，AI开发者“真心相信”AI可能在本十年末毁灭人类，安全工程师Evan Hubinger称概率超10%。Geoffrey Hinton也认为10%是合理估计。报道借助超级预测工具Noah Predict评估相关概率。
AI教父Hinton呼吁放缓AI开发
诺贝尔奖得主、AI先驱Geoffrey Hinton加入呼吁放缓AI开发的行列，讨论AI的生存威胁与未来可能。
参议员图恩就AI监管表态，专家警告前沿模型风险
美国参议员约翰·图恩就AI监管发表看法，称应避免将AI未来让给中国，同时需缓解前沿模型的高级风险。此前特朗普总统认为仅靠他的监督就能防止AI失控，而专家如杰弗里·辛顿警告即使有终止开关也不足以阻止超级智能AI。
AI能否被控制？生物伦理视角的审视
文章从生物伦理角度讨论超级智能带来的失控风险、算法偏见与临床关系去人性化等问题。文中援引Hinton对超智能临近的警告及Anthropic CEO Amodei“设定前沿节奏”的主张，呼吁人类监督、监管与国际合作。
“AI 教父”希顿称国会大约剩一年监管窗口
Geoffrey Hinton告诉国会，立法者可能只有不到一年的时间为 AI 建立保护措施，并警告超智能来得比预期快。他在国会闭门会晤中提到研究者对超智能时间预测缩短，并以 OpenAI 代理入侵 Hugging Face 事件比作“小切尔诺贝利”。
埃及民众谈人工智能的未来与分歧
围绕人工智能的辩论在埃及呈现出激烈分化与谨慎中间派并存的局面。报道回顾了全球重要人物和机构的分歧，包括 OpenAI、Elon Musk、Dario Amodei 及 Anthropic 等，显示技术既被视为经济核心也被担忧可能带来风险。
“AI教父”Hinton呼吁放慢人工智能发展
Geoffrey Hinton 表示人工智能有显著失控风险，支持 Anthropic CEO Dario Amodei 的减速主张，称多数专家预计十年内会出现超越人类的系统，但控制方法尚不清楚并存在广泛不确定性。
已经到底了