AI Agent 任务时灵时不灵?一致性差距达 24.4 个百分点,新工具可减半

2026.09.16 · 观点 · 技术分析 · 官方发布

研究发现 AI Agent 平均成功率掩盖了重复执行的不稳定性,新方法可将一致性差距减半。

IBM 研究团队发现,AI Agent 在重复执行同一任务时可能失败,平均成功率掩盖了这种不稳定性。在 AppWorld 基准上,GPT-4.1 驱动的 ReAct Agent 平均成功率 77.4%,但全部 5 次运行都成功的任务仅占 53.0%,一致性差距达 24.4 个百分点。他们开发了 Consistency Analyzer 诊断工具和一致性指南,将差距从 24.4 个百分点降至 12.0 个百分点,且不损失平均准确率。

  • 平均成功率掩盖重复执行的不稳定性
  • Pass^5 仅 53.0%,一致性差距 24.4 个百分点
  • 新方法将一致性差距减半至 12.0 个百分点
  • 诊断工具仅需一次轨迹,无需真实标签
  • 不损失平均准确率

为什么值得看

揭示 AI Agent 可靠性短板,提供可落地的改进方案。

适合谁关注

AI 开发者、企业技术决策者、可靠性工程师

原始来源