第 2026-11-03 期 · 社区音量

Anthropic @AnthropicAI

Anthropic 新研究:大语言模型可证明推理方面取得进展。 在此,我们推出 FlashProve。基于成熟的密码学技术,FlashProve 让开发者能够验证某个给定回复是否来自某个给定 AI 模型。它比此前用于此目的的开源方法效率高得多。 这些证明有一系列应用。例如,它们可以增加攻击者劫持对话的难度,或使安全评估人员能够验证他们正在测试的模型与提供给客户的模型是同一个。 可证明推理的进一步进展很可能成为提升 AI 部署信任度的重要组成部分。为此,我们将 FlashProve 的代码开源,地址:https://t.co/7ky3Ir8V06 完整文章见:https://t.co/OIZWPb6QZa 感谢我们的合作者:Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal(https://t.co/pjWKLHWXyz)和 Ben Mayer(@transmissions11)。

X40 小时前
查看原文 ↗