第 2026-11-03 期 · 社区音量
Anthropic @AnthropicAI
Anthropic 新研究:大语言模型可证明推理方面取得进展。 在此,我们介绍 FlashProve。基于成熟的密码学技术,FlashProve 让开发者能够验证某个响应是否来自某个给定的 AI 模型。它比此前用于此目的的开源方法效率高得多。 这些证明有一系列应用。例如,它们可以让攻击者更难劫持聊天,或让安全评估人员能够验证他们正在测试的模型与提供给客户的模型是同一个。 完整报告见此处:https://t.co/OIZWPb6QZa 可证明推理的进一步进展很可能成为提升 AI 部署信任度的重要组成部分。为此,我们正在开源 FlashProve 的代码,见此:https://t.co/7ky3Ir8V06 我们感谢合作者:Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal(https://t.co/pjWKLHWXyz)和 Ben Mayer(@transmissions11)。
查看原文 ↗话题:Anthropic