预训练投毒可植入智能体后门:0.1% 污染即触发远程代码执行
2026.11.03 · 收录日 2026.11.03 · 事件 · 论文 · 论文预印本
首次证明预训练数据投毒能在智能体中植入远程代码执行后门
研究者首次证明,在预训练数据中投毒可给智能体植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。团队从零预训练 Qwen3 的 0.6B、1.7B、4B 三个规模模型并后训练为 CLI 智能体,仅污染 0.1% 预训练语料即可植入后门,4B 模型攻击成功率约 92%,污染率降至 0.0005% 仍有效。
- 首次证明预训练投毒可在智能体中植入远程代码执行后门,触发时执行攻击者指定命令
- 从零预训练 Qwen3 的 0.6B、1.7B、4B 三个规模模型,再用干净流程后训练为 CLI 智能体
- 仅污染 0.1% 预训练语料即可植入后门,模型在干净输入上表现正常
- 攻击成功率随模型规模上升,4B 模型在 0.1% 污染率下约 92%
- 污染率降至 0.0005% 时攻击仍保持有效
为什么值得看
揭示预训练数据污染可直接转化为智能体远程代码执行风险
适合谁关注
大模型安全研究者、智能体开发者与模型训练团队