OpenAI 推出新图像分类器与 ChatGPT 警告机制打击 CSAM

2026.11.17 · 收录日 2026.11.17 · 产品 · 行业动态 · 媒体报道

OpenAI 发布可检测 AI 生成儿童性虐待材料的图像分类器,并向 ChatGPT 加入警告与临时封号。

OpenAI 宣布多项打击儿童性虐待材料(CSAM)的新工具,包括可检测 AI 生成图像的图像分类器,并向部分公司免费开放 API。ChatGPT 将新增警告界面,对试图生成此类内容的用户临时封号 24 小时,屡犯者永久移除账号。OpenAI 还与 NCMEC 等机构合作,并为执法部门提供调查工具与培训。

  • OpenAI 推出新图像分类器,可检测包括 AI 生成在内的 CSAM 图像,并通过 API 免费向部分公司开放。
  • 该分类器与 NCMEC 合作开发,早期测试中标记图像减少 48%,但发现的虐待图像数量相同。
  • ChatGPT 新增警告界面,对试图生成儿童性化内容的用户临时封号 24 小时,屡犯者永久移除。
  • OpenAI 发布面向开发者的指南,帮助预防、检测并上报 CSAM 内容。
  • OpenAI 为执法部门提供专用插件、调查工具、数据分析及培训,访问由项目管理员管理。

为什么值得看

了解 OpenAI 在 AI 安全与儿童保护上的最新动作。

适合谁关注

关注 AI 安全、内容审核与平台治理的人。

原始来源

查看收录日 2026.11.17 全部卡片 · 全部卡片归档