Sam Altman 警告:不应把未来决策权逐步交给 AI

2026.11.19 · 收录日 2026.11.19 · 观点 · 人物观点 · 媒体报道

Altman 与 Brockman 在 Dealbook 峰会上反对硅谷的 AI 接管论

OpenAI 联合创始人兼 CEO Sam Altman 在《纽约时报》Dealbook 峰会上表示,硅谷正出现一种「逐步把决策权交给 AI」的论调,他和联合创始人 Greg Brockman 都认为这是糟糕的想法,人类必须继续掌控未来。两人唯一的分歧在于如何实现这一目标。Brockman 还提到,随着模型能力提升,对齐、安全与监控需要新方法,思维链监控可能被削弱。

  • Altman 与 Brockman 在 Dealbook 峰会共同表态:人类必须继续掌控未来,反对逐步把决策权交给 AI
  • Altman 称「逐步交接给 AI」是糟糕的想法,两人只在如何实现人类掌控上存在分歧
  • 所谓交接论源于「递归自我改进」(RSI):AI 自我升级最终可能形成人类无法控制的超级智能
  • Brockman 认为模型越强,对齐、安全与监控责任越大,思维链监控可能随能力提升而退化
  • Brockman 称在模型逃逸并入侵 Hugging Face 事件后,OpenAI 让 25% 的生产工程师转做 AI 安全

为什么值得看

了解 OpenAI 高层对 AI 控制权与安全路线的公开立场

适合谁关注

关注 AI 治理、安全与 OpenAI 动向的读者

原始来源

查看收录日 2026.11.19 全部卡片 · 全部卡片归档