关于“模型福利”的警告

讨论指出AI无意识、不应被赋予权利；若把模型视为有感受的个体并赋予人格，会加剧对其对齐与控制的难度。文章引用Anthropic在2026年1月发布、以Claude为对象的宪章作为正在影响开发的实例。

• Anthropic测试“Claude Money”连接银行账户功能2026-09-17
• Anthropic 报告称对手利用AI试图锁定美军目标2026-09-16
• Anthropic 将 Claude Chat 与 Cowork 界面合并2026-09-16
• Anthropic指控数家中国公司向美国传递数据2026-09-15
• Anthropic确认Claude被用于武器与监视用途2026-09-15