Anthropic 推出自动化红队系统 Anvil,红队能力超越人类专家

2026.11.12 · 收录日 2026.11.12 · 事件 · AI 安全 · 官方发布

Anvil 在生物、网络安全和蒸馏防护上找到比人类更强的越狱方法

Anthropic 开发了自动化红队系统 Anvil,用于在部署前发现模型防护措施的漏洞。在生物领域,Anvil 找到的越狱方法比其漏洞赏金计划中所有人类红队成员加起来还要强,且仅需 24–48 小时,而人类需要数周到数月。Anvil 依赖禁用防护的前沿内部版 Claude 运行,其能力随底层模型增强而提升。

  • Anvil 是 Anthropic 内部自动化红队系统,用 Claude 主动发现防护漏洞
  • 在生物、网络安全和蒸馏防护上,Anvil 超越人类红队专家
  • 生物领域:Anvil 在 24–48 小时内找到比所有人类红队更强的越狱方法
  • Anvil 依赖禁用防护的前沿内部版 Claude,外部攻击者目前难以复制
  • Anvil 能力随底层模型增强而提升,未来攻击者可能构建类似系统

为什么值得看

了解 AI 安全防护如何用自动化对抗未来更强攻击者

适合谁关注

AI 安全研究者、模型开发者、安全从业者

原始来源

查看收录日 2026.11.12 全部卡片 · 全部卡片归档