当AI幻觉开始操作电脑：深大、港科大提出ECA，让Agent行动前先验证证据
2026.09.14 · 事件 · 论文 · 论文预印本
深圳大学与港科大提出ECA框架，为AI Agent增加独立证据验证，拦截不安全动作。
深圳大学和香港科技大学提出ECA（Evidence-Carrying Multimodal Agents），为AI Agent增加独立验证程序，在动作执行前核验证据。在200个任务中，140个不安全动作全部被拦下，60个正常任务全部完成；接入浏览器后，85个不安全动作均未获准执行。
- 提出ECA框架，模型提动作，验证器出证据，门控检查执行
- 200个任务中140个不安全动作全被拦截
- 浏览器测试中85个不安全动作均未执行
- 正常点击93.6%直接放行，无正常点击被拒
- 验证器加固后1700个攻击实例无一绕过
为什么值得看
AI Agent幻觉可能导致真实执行后果，ECA提供执行前验证方案。
适合谁关注
关注AI Agent安全、多模态模型应用的研究者和开发者。