arXiv 论文:聊天模板会切换大模型自我指涉语气
2026.09.27 · 观点 · 论文 · 论文预印本
聊天模板像开关,决定模型说“我只是AI”还是“我感觉”。
论文发现,聊天模板像开关一样调节大模型的自我指涉语气:有模板时“我只是AI”式免责声明变多、“我感觉”式体验语气变少,无模板时相反,该现象在8 个开源指令模型(最大 9B 参数)上成立。研究还在 3 个模型的激活中找到可操控该行为的方向。
- 聊天模板决定模型自我指涉语气
- 有模板时免责声明多、体验语气少
- 无模板时免责声明少、体验语气多
- 在 8 个开源指令模型上验证,最大 9B
- 3 个模型激活中存在可操控方向
为什么值得看
提示模型自我报告可能受部署方式干扰。
适合谁关注
研究模型自我认知与 AI 安全的读者。