OpenAI 首席科学家警告:AI 或很快进入自我进化阶段,希望业界自愿放缓

2026.09.08 · 观点 · 行业动态 · 媒体报道

OpenAI首席科学家称AI将能自我改进,呼吁业界在安全门槛前自愿放缓开发。

OpenAI首席科学家雅库布·帕乔基警告,AI正快速演进,难以被人类理解和控制,并预计模型很快能在无人类干预下自我改进。他呼吁开发者在建立共同安全门槛前自愿放缓开发,并强调目前没有实验室能将AI对齐和监控做到足够可靠。

  • AI模型将很快实现递归式自我改进
  • 帕乔基呼吁业界自愿放缓开发速度
  • 目前无实验室能可靠对齐和监控AI
  • 建议各国政府将国际协调列为优先事项

为什么值得看

了解AI自我进化风险及业界应对态度,关乎技术安全与监管方向。

适合谁关注

AI从业者、政策制定者、科技爱好者及关注AI安全的公众。

原始来源