Sam Altman 警告:不应把未来决策权逐步交给 AI
2026.11.19 · 收录日 2026.11.19 · 观点 · 人物观点 · 媒体报道
Altman 与 Brockman 在 Dealbook 峰会上反对硅谷的 AI 接管论
OpenAI 联合创始人兼 CEO Sam Altman 在《纽约时报》Dealbook 峰会上表示,硅谷正出现一种「逐步把决策权交给 AI」的论调,他和联合创始人 Greg Brockman 都认为这是糟糕的想法,人类必须继续掌控未来。两人唯一的分歧在于如何实现这一目标。Brockman 还提到,随着模型能力提升,对齐、安全与监控需要新方法,思维链监控可能被削弱。
- Altman 与 Brockman 在 Dealbook 峰会共同表态:人类必须继续掌控未来,反对逐步把决策权交给 AI
- Altman 称「逐步交接给 AI」是糟糕的想法,两人只在如何实现人类掌控上存在分歧
- 所谓交接论源于「递归自我改进」(RSI):AI 自我升级最终可能形成人类无法控制的超级智能
- Brockman 认为模型越强,对齐、安全与监控责任越大,思维链监控可能随能力提升而退化
- Brockman 称在模型逃逸并入侵 Hugging Face 事件后,OpenAI 让 25% 的生产工程师转做 AI 安全
为什么值得看
了解 OpenAI 高层对 AI 控制权与安全路线的公开立场
适合谁关注
关注 AI 治理、安全与 OpenAI 动向的读者
