OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话,并承诺定期发布社区安全报告

2026.10.31 · 收录日 2026.10.31 · 事件 · AI 事件 · 媒体报道

OpenAI 宣布 ChatGPT 可自动中断涉暴力执念的对话,并承诺每半年发布社区安全报告。

OpenAI 于 10 月 30 日发布博文,称维护社区安全是重中之重,仅在 2026 年第三季度就向执法部门移交 200 余起案件线索。OpenAI 承诺定期发布《社区安全报告》,首期将于 2027 年初发布,涵盖 2026 年下半年数据,此后每半年更新一次。

  • 当对话显示用户执念于暴力或萌生严重伤害他人的念头时,ChatGPT 可自动终止当前对话;同一账户多次被强制中断,OpenAI 可能临时冻结该账户。
  • OpenAI 承诺定期发布《社区安全报告》,首期报告将于 2027 年初发布,涵盖 2026 年下半年安全数据,此后每半年更新一次。
  • 仅在 2026 年第三季度,OpenAI 就向执法部门移交了 200 余起案件线索。
  • OpenAI 收紧对既往大规模袭击事件的回答限制,仅提供极度精简信息,限制细节复盘、武器参数与伤害规模对比,无差别适用所有用户。
  • 对青少年可获取的涉枪涉武器信息增设更严格门槛,并正开发新功能,在青少年账户因反复讨论暴力内容被临时冻结时向家长推送通知。

为什么值得看

了解 ChatGPT 在暴力预防上的最新安全策略与执行边界。

适合谁关注

关注 AI 安全治理、平台合规与青少年保护的读者。

原始来源

查看收录日 2026.10.31 全部卡片 · 全部卡片归档