OpenAI 发布 CSAM 检测分类器,可识别 AI 生成内容

2026.11.17 · 收录日 2026.11.17 · 产品 · 行业动态 · 官方发布

OpenAI 推出免费 CSAM 图像分类器,可识别 AI 生成内容并减少误报。

OpenAI 发布新的图像分类器,用于检测儿童性虐待材料(CSAM),包括 AI 生成内容,这是首个能提示 CSAM 是否可能由 AI 生成的广泛可用分类器。该工具通过 OpenAI API 免费提供给经过审核的组织,早期测试显示可减少 48% 的审核图片量,同时发现大致相同数量的虐待图片。

  • 新图像分类器可检测潜在 CSAM,包括 AI 生成材料,返回评分帮助审核人员优先处理。
  • 这是首个广泛可用、能提示 CSAM 是否可能由 AI 生成的分类器。
  • 通过 OpenAI API 免费提供给经过审核的组织,包括儿童安全组织和行业伙伴。
  • 早期评估显示可减少 48% 的审核图片量,被标记图片含虐待内容的可能性约为两倍。
  • 合作伙伴测试中,fal 确认 72% 高置信度标记为新 CSAM,SafetyKit 在绘画或动画中检测出 90% 案例。

为什么值得看

了解 AI 平台如何用技术手段打击网络儿童性虐待内容。

适合谁关注

关注儿童安全、内容审核和 AI 治理的从业者。

原始来源

查看收录日 2026.11.17 全部卡片 · 全部卡片归档