1.5小时训练的小型Transformer在ARC-AGI-1上得分44%,超越众多LLM

2026.09.02 · 事件 · 开源项目 · 本人发布

作者用1.5小时在5090上训练小型Transformer,ARC-AGI-1得分44%,与TRM/HRM持平。

作者训练了一个小型Transformer,仅用1.5小时和一块5090显卡,在ARC-AGI-1基准上获得44%的分数,与TRM/HRM持平,超越许多大型语言模型。相比之前版本,新模型更快、更好、更便宜,且保持开源。作者认为样本效率是AI当前最重要的问题,并致力于在Transformer框架内探索其极限。

  • 1.5小时训练,ARC-AGI-1得分44%
  • 超越许多LLM,与TRM/HRM持平
  • 相比前代更快、更好、更便宜
  • 保持开源,代码已发布在GitHub
  • ARC-2上得分7%

为什么值得看

展示样本效率的极限,挑战大型模型范式。

适合谁关注

关注AI样本效率、小模型训练和ARC基准的研究者。

原始来源