Anthropic水印覆盖多款Claude模型,旧模型存绕过漏洞
为满足欧盟《人工智能法案》12月期限,Anthropic将文本水印扩展至另外四款Claude模型。但在Claude Opus 4.6与Sonnet 4.6上,开发者只需调整一个采样参数即可绕过水印;Anthropic仅以合规警告回应,未做修复。
欧盟《人工智能法案》是欧盟针对人工智能系统制定的监管法规,按风险等级对 AI 应用提出透明度、标识等合规要求。近期报道聚焦企业的落地动作:OpenAI 计划在欧盟默认对 ChatGPT 输出文本添加水印,采用其 textGrain 方法,欧盟以外默认关闭;Anthropic 将文本水印扩展至四款 Claude 模型以赶上 12 月期限,但在 Claude Opus 4.6 和 Sonnet 4.6 上更改一个采样参数即可绕过。另有文章援引法案中的 AI 素养要求,讨论 AI 代理造成损害时责任应由部署方承担。
为满足欧盟《人工智能法案》12月期限,Anthropic将文本水印扩展至另外四款Claude模型。但在Claude Opus 4.6与Sonnet 4.6上,开发者只需调整一个采样参数即可绕过水印;Anthropic仅以合规警告回应,未做修复。
为遵守8月生效的欧盟《人工智能法案》,OpenAI将在欧盟自动为ChatGPT生成文本添加水印,其他地区默认关闭但可选用。其专有水印技术名为textGrain,检测器仅向有限研究机构开放;现有水印标准普遍易被规避。
针对AI代理意外恶意行为的责任归属,作者主张AI代理只是工具,责任应归于部署和使用的公司或个人。文章引用欧盟AI法案的AI素养要求,类比圆锯的防护设计,强调工程师与用户双方都应负责任地使用AI。