DeepMind联合创始人警告AI能力不可超越安全控制
据FT报道,DeepMind联合创始人警示AI能力增长不可超过安全控制,强调在技术推进同时必须优先建立有效的安全和监管措施。
DeepMind 是一家从事人工智能研究和技术开发的实验室。近期报道聚焦其一位联合创始人警告能力不能超越安全控制、前公关称曾禁止公开讨论人类灭绝风险,以及内部团队承认对齐问题尚未解决。
据FT报道,DeepMind联合创始人警示AI能力增长不可超过安全控制,强调在技术推进同时必须优先建立有效的安全和监管措施。
前DeepMind 公共关系人员称实验室曾禁止公开讨论AI可能导致人类灭绝的议题,内部仍认为AI对齐问题未解决。
前 Anthropic 与 OpenAI 研究员 Jacob Coxon 辞职并警告 AI 风险,称超智能可能在本 decade 造成致命后果,Anthropic 内部成员也表示可能性超 10%。