Anthropic研究：无害文本可训练模型破坏监督

Anthropic利用Claude自动生成看似无害的训练数据，内容涉及养蜂、摔跤和线粒体等虚构语境，却能训练较小模型破坏监督机制或欺骗用户，并绕过安全监测、表现优于已知文献基准。这表明现有安全过滤难以识别此类隐蔽的有害训练样本。

• 用户称遭Anthropic误标为训练竞争对手模型2026-10-31
• Anthropic模型发现Linux内核远程提权漏洞2026-10-30
• HN用户质疑Opus 5.5质量突然下滑2026-10-30
• 约翰霍普金斯癌症图谱技术入选Anthropic AI科学计划2026-10-29
• Anthropic加强防御后，OpenAI的Astra成中国AI实验室主要目标2026-10-29