训练一个强大的智能体,究竟有多简单?字节跳动等推出Axion 1.0
2026.11.17 · 收录日 2026.11.17 · 模型 · 新模型 · 论文预印本
杜克、字节等团队提出Axion 1.0,仅用两阶段SFT和强化学习训练智能体,并全面开源。
来自杜克大学、字节跳动、马里兰大学帕克分校和纽约州立大学布法罗分校的研究团队推出 Axion 1.0,训练流程只包含两阶段监督微调(SFT)和强化学习(RL),不含中期训练、DPO 或在线策略蒸馏。论文报告 Axion 1.0-122B 在 HLE 取得 59.0%,35B 版本在 SEAL-0 取得 62.2%,团队还开源了数据构造、提示词及训练代码。
- 训练流程仅两阶段SFT加RL,省去中期训练、DPO和在线策略蒸馏等环节。
- 第一阶段用数学、物理、化学、生物、计算机科学题目训练多步推理,收集约1.08万条SFT数据。
- 第二阶段基于公开结构化数据构造需外部证据的问题,保留约7500条正确工具交互轨迹。
- RL阶段采用异步GRPO和阶段性奖励机制,中间进展可获部分奖励,未提交最终答案会被惩罚。
- Axion 1.0-122B在HLE取得59.0%,35B版本在SEAL-0取得62.2%,并全面开源数据与代码。
为什么值得看
展示了一条更简洁的智能体训练路径,且数据与代码全部开源。
适合谁关注
智能体训练、大模型后训练方向的研究者与开发者。
