ARC Prize Foundation 推出第二代抽象推理基准 ARC-AGI-2

2026.10.03 · 事件 · 行业动态 · 官方发布

ARC-AGI-2 共 1360 道网格推理题,人类平均 60 分,前沿推理系统仅个位数。

ARC Prize Foundation 发布第二代抽象推理基准 ARC-AGI-2,延续网格输入输出示例、推断变换规则并应用于新输入的题型,每题允许两次尝试(pass@2)。基准共 1360 道任务,含 1000 道训练题和 360 道评测题,评测集均分为公开、半私有、私有三组各 120 道。它移除了易被暴力程序搜索破解的题目,新增针对符号解释、组合推理与上下文规则应用的难题;400 多名参与者的人类测试确…

  • 共 1360 道任务:1000 训练 + 360 评测
  • 评测集分公开、半私有、私有各 120 道
  • 每题允许两次尝试(pass@2)
  • 移除易被暴力搜索破解的旧题
  • 人类平均 60%,纯 LLM 得 0%

为什么值得看

看清当前 AI 在抽象推理上与人类的真实差距。

适合谁关注

关注大模型能力边界与评测的研究者和开发者。

原始来源