OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话,并承诺定期发布社区安全报告
2026.10.31 · 收录日 2026.10.31 · 事件 · AI 事件 · 媒体报道
OpenAI 宣布 ChatGPT 可自动中断涉暴力执念的对话,并承诺每半年发布社区安全报告。
OpenAI 于 10 月 30 日发布博文,称维护社区安全是重中之重,仅在 2026 年第三季度就向执法部门移交 200 余起案件线索。OpenAI 承诺定期发布《社区安全报告》,首期将于 2027 年初发布,涵盖 2026 年下半年数据,此后每半年更新一次。
- 当对话显示用户执念于暴力或萌生严重伤害他人的念头时,ChatGPT 可自动终止当前对话;同一账户多次被强制中断,OpenAI 可能临时冻结该账户。
- OpenAI 承诺定期发布《社区安全报告》,首期报告将于 2027 年初发布,涵盖 2026 年下半年安全数据,此后每半年更新一次。
- 仅在 2026 年第三季度,OpenAI 就向执法部门移交了 200 余起案件线索。
- OpenAI 收紧对既往大规模袭击事件的回答限制,仅提供极度精简信息,限制细节复盘、武器参数与伤害规模对比,无差别适用所有用户。
- 对青少年可获取的涉枪涉武器信息增设更严格门槛,并正开发新功能,在青少年账户因反复讨论暴力内容被临时冻结时向家长推送通知。
为什么值得看
了解 ChatGPT 在暴力预防上的最新安全策略与执行边界。
适合谁关注
关注 AI 安全治理、平台合规与青少年保护的读者。