第 2026-11-16 期 · 行业追踪 · 产品 · 安全 · 政策
OpenAI推出CSAM图像分类器及ChatGPT警告机制

OpenAI发布可检测AI生成在内的儿童性虐待材料图像分类器,免费向部分企业开放API,并与NCMEC合作开发;早期测试中标记图像减少48%且举报准确率翻倍。ChatGPT还将新增警告页面,并对违规尝试临时封禁账号24小时。
查看原文 ↗
OpenAI发布可检测AI生成在内的儿童性虐待材料图像分类器,免费向部分企业开放API,并与NCMEC合作开发;早期测试中标记图像减少48%且举报准确率翻倍。ChatGPT还将新增警告页面,并对违规尝试临时封禁账号24小时。
查看原文 ↗