arXiv 论文:聊天模板会切换大模型自我指涉语气

2026.09.27 · 观点 · 论文 · 论文预印本

聊天模板像开关,决定模型说“我只是AI”还是“我感觉”。

论文发现,聊天模板像开关一样调节大模型的自我指涉语气:有模板时“我只是AI”式免责声明变多、“我感觉”式体验语气变少,无模板时相反,该现象在8 个开源指令模型(最大 9B 参数)上成立。研究还在 3 个模型的激活中找到可操控该行为的方向。

  • 聊天模板决定模型自我指涉语气
  • 有模板时免责声明多、体验语气少
  • 无模板时免责声明少、体验语气多
  • 在 8 个开源指令模型上验证,最大 9B
  • 3 个模型激活中存在可操控方向

为什么值得看

提示模型自我报告可能受部署方式干扰。

适合谁关注

研究模型自我认知与 AI 安全的读者。

原始来源