Anthropic禁止用户辱骂Claude，推行“模型福祉”

Anthropic更新Claude使用准则，禁止用户对AI进行“冒犯或残忍”的行为，称此举主要针对极端情况，旨在关注“模型福祉”。该理念在业内存在争议，微软明确反对赋予AI权利。新准则还加强对健康、金融、选举操纵及武器开发等敏感领域请求的管控。

• Meta与微软大幅削减Claude使用量2026-10-05
• Anthropic推出Claude市场2026-09-27
• 微软AI负责人警告赋予AI“权利”或致失控2026-09-22
• 微软AI负责人警告勿赋予AI“权利”观念2026-09-18
• HN热议：拒绝OpenAI与Anthropic，改用开源权重模型2026-10-12