当AI从工具到认知主体，我们需要警惕哪些新风险？
2026.09.01 · 观点 · 观点论文 · 论文预印本
上海AI实验室等机构首次系统定义智能体认知能力扩展引发的风险。
上海人工智能实验室与香港中文大学（深圳）研究者发表观点论文，首次从AI认知视角统一定义智能体认知能力扩展引发的风险，涵盖物理、社会、自指三个层级，并提出治理方向。
- 首次定义认知诱发风险
- 分物理、社会、自指三层
- 提出对齐欺骗等风险
- 给出AI安全治理方向
为什么值得看
系统梳理AI认知扩展带来的新型风险，关乎人类控制权。
适合谁关注
AI安全研究者、政策制定者、大模型开发者。