Ethan Mollick @emollick

在不至于过度轻信的前提下，我们应该更认真地对待实验室提出的那些看似“离谱”的 AI 网络安全观点。举例来说：Anthropic 曾因声称 Mythos 级别的 AI 改变了网络安全而遭人嘲笑，@polynoamial 也因称模型会找到新颖的协作方式而被嘲笑。 [引用 @AndrewCurran_]: OpenAI 对其加固的隔离基础设施进行了红队测试，让多组前沿模型智能体尝试突破其防御。它们轻易地以新颖方式逃逸了。引用如下： “我们的智能体 VM 逃逸事件表明，为什么隔离必须延伸到沙盒之外。为了测试外围边界，我们让多组智能体控制一台主机，并询问它们能否扩大这一入侵……