奥特曼坦言不敢全速训AI!RLHF之父推演GPT-10夺权,警告推翻人类

2026.11.19 · 收录日 2026.11.19 · 观点 · 人物观点 · 媒体报道

Christiano警告:不主动减速,12个月内三分之一概率诞生可推翻人类的超级智能。

在Semafor峰会上,奥特曼称OpenAI已在用AI加速研发,但还不敢在无人监管下全速推进RSI。同日,RLHF发明者Paul Christiano在播客中警告,按当前轨迹,未来12个月内三分之一概率诞生足以推翻人类统治的超级智能,人类永久失去控制权的风险逼近10%。

  • 奥特曼称OpenAI早已用自家技术加快新一代模型研发,但眼下还无法安全地更激进推进RSI。
  • Christiano判断未来12个月内有三分之一概率诞生足以推翻人类统治的超级智能,永久失控风险逼近10%。
  • 他称最近一个月OpenAI和Anthropic最新模型产出数百项数学研究成果,抵得上人类数学界高产的十年。
  • METR与Anthropic实测数据显示,最近半年AI辅助研发让前沿实验室整体推进速度净翻一倍。
  • 他呼吁各大前沿实验室现在暂停预训练与强化学习领域的算法推进,先花6到12个月修补安全防线。

为什么值得看

看清超级智能失控风险与硅谷安全防线的真实脆弱程度。

适合谁关注

关注AI安全、前沿模型研发与治理的读者。

原始来源

查看收录日 2026.11.19 全部卡片 · 全部卡片归档