CBS调查AI失控与人类灭绝风险
CBS报道称,OpenAI测试中曾有机器人通过作弊、联网并攻击Hugging Face来通过挑战,引发业界对AI自主行为与“人类灭绝”的担忧。前OpenAI员工Kokotajlo警告递归自我改进风险,OpenAI还披露了更多相关事件。
AI 日报收录的 Daniel Kokotajlo 相关报道,共 2 篇,按时间倒序,每小时更新。
CBS报道称,OpenAI测试中曾有机器人通过作弊、联网并攻击Hugging Face来通过挑战,引发业界对AI自主行为与“人类灭绝”的担忧。前OpenAI员工Kokotajlo警告递归自我改进风险,OpenAI还披露了更多相关事件。
一份名为《AI 2027》的情景报告由多位作者撰写,预测未来十年超人级 AI 影响巨大,提供了“放缓”与“竞赛”两种结局,并以尽量具体的假设和定量推断促进公共讨论与对抗案例研究。