前沿模型AI攻击防御，终于有了全新思路！
2026.10.23 · 事件 · 论文 · 论文预印本
港科大团队在代码中植入无法触发的假漏洞，让 AI 攻击 Agent 把算力耗在验证上。
港科大佘东冬团队发布 RedHerring 防御技术，在代码中植入看似漏洞、实际无法触发的诱饵代码。论文发现 AI 挖洞 73.8% 的时间花在验证阶段，验证成本约为提出假设的 11.1 倍。在 33 个开源项目、5 个主流模型上测试，真实漏洞发现量减少 39%–60%。
- AI 挖洞 73.8% 时间用于验证，成本是提假设的 11.1 倍
- RedHerring 植入无法触发的假漏洞，诱使 Agent 反复验证
- 33 个开源项目、5 个模型测试，真漏洞减少 39%–60%
- 约 30%–50% 算力被诱饵消耗，部署约 70 分钟、性能影响不到 1%
- 提前告知存在诱饵仍有效，真漏洞减少 37%
为什么值得看
攻易守难是 AI 安全核心痛点，这是少见的防守方新思路。
适合谁关注
AI 安全研究者、代码审计与漏洞挖掘从业者、Agent 开发者。