奥特曼坦言不敢全速训AI!RLHF之父推演GPT-10夺权,警告推翻人类
2026.11.19 · 收录日 2026.11.19 · 观点 · 人物观点 · 媒体报道
Christiano警告:不主动减速,12个月内三分之一概率诞生可推翻人类的超级智能。
在Semafor峰会上,奥特曼称OpenAI已在用AI加速研发,但还不敢在无人监管下全速推进RSI。同日,RLHF发明者Paul Christiano在播客中警告,按当前轨迹,未来12个月内三分之一概率诞生足以推翻人类统治的超级智能,人类永久失去控制权的风险逼近10%。
- 奥特曼称OpenAI早已用自家技术加快新一代模型研发,但眼下还无法安全地更激进推进RSI。
- Christiano判断未来12个月内有三分之一概率诞生足以推翻人类统治的超级智能,永久失控风险逼近10%。
- 他称最近一个月OpenAI和Anthropic最新模型产出数百项数学研究成果,抵得上人类数学界高产的十年。
- METR与Anthropic实测数据显示,最近半年AI辅助研发让前沿实验室整体推进速度净翻一倍。
- 他呼吁各大前沿实验室现在暂停预训练与强化学习领域的算法推进,先花6到12个月修补安全防线。
为什么值得看
看清超级智能失控风险与硅谷安全防线的真实脆弱程度。
适合谁关注
关注AI安全、前沿模型研发与治理的读者。
