OpenAI 发布 CSAM 检测分类器,可识别 AI 生成内容
2026.11.17 · 收录日 2026.11.17 · 产品 · 行业动态 · 官方发布
OpenAI 推出免费 CSAM 图像分类器,可识别 AI 生成内容并减少误报。
OpenAI 发布新的图像分类器,用于检测儿童性虐待材料(CSAM),包括 AI 生成内容,这是首个能提示 CSAM 是否可能由 AI 生成的广泛可用分类器。该工具通过 OpenAI API 免费提供给经过审核的组织,早期测试显示可减少 48% 的审核图片量,同时发现大致相同数量的虐待图片。
- 新图像分类器可检测潜在 CSAM,包括 AI 生成材料,返回评分帮助审核人员优先处理。
- 这是首个广泛可用、能提示 CSAM 是否可能由 AI 生成的分类器。
- 通过 OpenAI API 免费提供给经过审核的组织,包括儿童安全组织和行业伙伴。
- 早期评估显示可减少 48% 的审核图片量,被标记图片含虐待内容的可能性约为两倍。
- 合作伙伴测试中,fal 确认 72% 高置信度标记为新 CSAM,SafetyKit 在绘画或动画中检测出 90% 案例。
为什么值得看
了解 AI 平台如何用技术手段打击网络儿童性虐待内容。
适合谁关注
关注儿童安全、内容审核和 AI 治理的从业者。
