OpenAI 推出新图像分类器与 ChatGPT 警告机制打击 CSAM
2026.11.17 · 收录日 2026.11.17 · 产品 · 行业动态 · 媒体报道
OpenAI 发布可检测 AI 生成儿童性虐待材料的图像分类器,并向 ChatGPT 加入警告与临时封号。
OpenAI 宣布多项打击儿童性虐待材料(CSAM)的新工具,包括可检测 AI 生成图像的图像分类器,并向部分公司免费开放 API。ChatGPT 将新增警告界面,对试图生成此类内容的用户临时封号 24 小时,屡犯者永久移除账号。OpenAI 还与 NCMEC 等机构合作,并为执法部门提供调查工具与培训。
- OpenAI 推出新图像分类器,可检测包括 AI 生成在内的 CSAM 图像,并通过 API 免费向部分公司开放。
- 该分类器与 NCMEC 合作开发,早期测试中标记图像减少 48%,但发现的虐待图像数量相同。
- ChatGPT 新增警告界面,对试图生成儿童性化内容的用户临时封号 24 小时,屡犯者永久移除。
- OpenAI 发布面向开发者的指南,帮助预防、检测并上报 CSAM 内容。
- OpenAI 为执法部门提供专用插件、调查工具、数据分析及培训,访问由项目管理员管理。
为什么值得看
了解 OpenAI 在 AI 安全与儿童保护上的最新动作。
适合谁关注
关注 AI 安全、内容审核与平台治理的人。
