预训练投毒可植入智能体后门:0.1% 污染即触发远程代码执行

2026.11.03 · 收录日 2026.11.03 · 事件 · 论文 · 论文预印本

首次证明预训练数据投毒能在智能体中植入远程代码执行后门

研究者首次证明,在预训练数据中投毒可给智能体植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。团队从零预训练 Qwen3 的 0.6B、1.7B、4B 三个规模模型并后训练为 CLI 智能体,仅污染 0.1% 预训练语料即可植入后门,4B 模型攻击成功率约 92%,污染率降至 0.0005% 仍有效。

  • 首次证明预训练投毒可在智能体中植入远程代码执行后门,触发时执行攻击者指定命令
  • 从零预训练 Qwen3 的 0.6B、1.7B、4B 三个规模模型,再用干净流程后训练为 CLI 智能体
  • 仅污染 0.1% 预训练语料即可植入后门,模型在干净输入上表现正常
  • 攻击成功率随模型规模上升,4B 模型在 0.1% 污染率下约 92%
  • 污染率降至 0.0005% 时攻击仍保持有效

为什么值得看

揭示预训练数据污染可直接转化为智能体远程代码执行风险

适合谁关注

大模型安全研究者、智能体开发者与模型训练团队

原始来源

查看收录日 2026.11.03 全部卡片 · 全部卡片归档