Jack Clark

Jack Clark 是 Anthropic 的联合创始人之一和 AI 政策评论者。近期报道聚焦他建议应考虑强制执行可由第三方验证的 AI“断路器”（kill switch），并将此意见置于关于放慢开发速度与安全政策的更广泛讨论中，同时相关报道还提到 Miles Brundage 更新的《The Malicious Use of Artificial Intelligence》报告和 Dario 关于“pacing”的表态。

• Anthropic2
• Dario Amodei2
• Google DeepMind1
• Louise Haigh1
• OpenAI1
• Tom Duff Gordon1
• Evan Hubinger1
• Helen Toner1
• Miles Brundage1
• Owain Evans1
• Peter Eckersley1

Jack Clark@jackclarkSF

211 赞 · 11 转发 · 11 小时前

在谈论关于 AI 和奇点的一些奇怪说法 The Anthropic Institute 🤝 the DeepMind Institute [引用 @ShaneLegg]: 我开发 AGI 的旅程跨越 25 年，其中包括在 Google DeepMind 思考技术和社会视角的 10+ 年。 AGI 已在地平线上——我们需要更深入地理解它的影响。为此，我们创建了 DeepMind Institute。 https://t.co/dpc2y4IGT1

Jack Clark

英国部长：须重视AI专家警告

英国内务大臣Louise Haigh在TUC大会上表示，政府在推动AI潜在益处的同时必须重视行业领袖对安全与国家安全的警告。此言论出于对Anthropic研究人员称AI或在十年内威胁人类的担忧，并呼吁与国际伙伴合作制定监管。

The Guardian · 42 小时前 · 详情

Louise HaighAnthropicOpenAI

Anthropic联合创始人：AI“断电开关”或应强制实施

Anthropic联合创始人Jack Clark表示，应讨论要求公司具备可被第三方验证的AI“断电开关”。这一观点出现在围绕AI安全与放缓开发的更大政策讨论中。

bbc.com · 2 天前 · 详情

Jack ClarkAnthropicDario Amodei

论文：《人工智能的恶意使用》综述与防范

一篇由 Miles Brundage 等人撰写并在 arXiv 更新的报告，综述了人工智能在数字、物理与政治领域被恶意利用的威胁，并提出预测、预防与缓解的建议。

Hacker News · 3 天前 · 详情

Miles BrundageDario AmodeiJack Clark

Jack Clark@jackclarkSF

369 赞 · 21 转发 · 4 天前

为 Dario 关于放慢脚步的声明感到自豪——正如任何接近这项技术的人所知道的，AI 似乎正沿着比社会适应其能力和风险的速度快得多的轨道前进。AI 是一项极其积极的技术——同时也极其强大。要真正从中受益，我们需要严肃对待它。 我们需要找到放慢开发前沿的方法，这样我们才能更好地处理集体行动问题，并为理解这些系统的属性以及如何应对它们争取更多时间。 就个人而言，作为一个有年幼孩子的家长，每天反思字面上的超级智能的开发相对于我给孩子买的食物和玩具的监管有多少，这件事都令人疯狂。 [引用 @DarioAmodei]: 我…

Jack Clark

已经到底了