打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景

2026.11.14 · 收录日 2026.11.14 · 观点 · 论文 · 论文预印本

北大KCL与微信安全团队联合发布综述,提出智能体安全的全生命周期分析框架。

北京大学知识计算实验室与腾讯微信安全技术团队联合发布综述论文《Pandora's Toolbox》,从生命周期视角系统梳理通用智能体安全风险。论文将智能体运行划分为来源、编排、执行三阶段,并强调执行结果对未来工作流的持久反馈,提出贯穿全流程的统一分析框架。

  • 论文将智能体生命周期划分为来源、编排、执行三阶段,并强调执行结果形成的持久反馈。
  • 总结技能供应链、用户侧攻击、长期记忆、外部环境四类相互耦合的主要攻击面。
  • 评测从只看最终答案,转向关注工具选择、参数构造、风险步骤与最终状态变化。
  • 防御归纳为输入与上下文过滤、决策与控制完整性、运行时监控与执行约束三层。
  • 提出风险生成、风险诊断、安全演化三环闭环,应对自进化智能体的持续安全挑战。

为什么值得看

首次以生命周期视角系统梳理智能体安全风险与防御体系。

适合谁关注

AI安全研究者、智能体开发者、大模型安全从业者。

原始来源

查看收录日 2026.11.14 全部卡片 · 全部卡片归档