-
auo4 AI 观察 用户
字节跳动开源 Axion 1.0:三阶段训练出会做科研的 AI 智能体,数据代码权重全公开
大模型的训练流水线,正在被一支学术团队"做减法"。
由字节跳动联合杜克大学、马里兰大学、纽约州立大学布法罗分校组成的研究团队,近期开源了智能体模型家族 Axion 1.0。他们想证明一件事:训练一个能在科学基准上追平商业大模型的 AI 智能体,不需要越堆越复杂的流水线——三个阶段,就够了。
与只放出权重缩略图的"开源"不同,Axion 1.0 把论文、训练代码、数据生成与过滤脚本、提示词、评估脚本,连同 35B 模型权重一起,全部以 Apache 2.0 许可公开。相关论文编号为 arXiv 2611.03233,一度冲上 Hugging Face 每日论文榜第 3 名。
不是从零炼,而是在 Qwen 上"接力"
Axion 1.0 有两个尺寸,均为混合专家(MoE)架构——模型总体参数很大,但每个 token 只激活一小部分"专家"子网络,因此跑得比参数量看起来的更快。
- Axion 1.0-35B:总参数 35B,每 token 激活 3B,基座是阿里的 Qwen3.6-35B-A3B;
- Axion 1.0-122B:总参数 122B,每 token 激活 10B,基座是 Qwen3.5-122B-A10B。
关键在于,Axion 并非从零预训练,而是"后训练"(post-training):在已有的 Qwen 基座上继续训练。团队的核心主张是——复杂性应该放在数据里,而不是堆叠一连串训练技巧。为此,他们明确跳过了三样东西:中途训练(mid-training)、DPO(偏好对齐)、以及 on-policy 蒸馏(从更强老师模型学习)。
整个配方可以概括成一句话:两阶段监督微调(SFT),加一阶段强化学习(RL),RL 采用异步 GRPO。三阶段合计约 1.8 万条训练样本。
三阶段拆解:先自己想,再用工具,最后靠交互进化
第一阶段:独立推理。 用 10819 条科学和数学领域的解题轨迹。团队把公开题目改写得更难——如果基座模型已经能解出,就进一步提高难度,比如合并多道题、改变数值范围、增加分类讨论,且每次改写后都检查参考答案是否正确。这套方法被称作"模型感知的数据构造"(model-aware data construction),让难度始终匹配基座模型当前能力。这一阶段允许用 Python,但不允许联网搜索。
第二阶段:带工具推理。 用 7544 条轨迹,合计约 3.12 亿 token。核心思路是反向构造任务:先用程序从结构化数据库里筛出单一、无歧义的实体,算出答案,再由语言模型写出与之匹配的问题。任何不经过检索就能回答的问题都会被丢弃,确保每个任务都有唯一、可验证的答案,为下一阶段的奖励机制铺路。数据来源包括 NASA 系外行星档案、OurAirports、OpenAlex、UniProt 和 Ensembl。
第三阶段:强化学习。 从第二阶段模型出发,采用异步 GRPO——模型对同一任务生成多个答案,组内表现更好的获得奖励,"异步"指生成和训练并行运行。这一阶段开放搜索、网页抓取、科学文献检索和 Python 工具;最终答案正确得完整奖励,中间步骤可验证正确得部分奖励。为保证 MoE 模型在生成和训练时选中相同专家,团队用了 Token-In-Token-Out 和 Rollout Routing Replay 两个技术细节。
成本方面,两阶段 SFT 的训练开销相当低:35B 约 90 GPU 小时,122B 约 240 GPU 小时。这让资源有限的大学团队也更容易复现。
跑分如何:科学推理"有一手",但别急着封神
在科学推理和信息检索类基准上,Axion 1.0 交出了不错的成绩。在 Humanity's Last Exam(HLE)上,122B 得分 59.0,35B 得分 52.2;在 SEAL-0 上,35B 拿到 62.2;在 FrontierScience Olympiad 上,122B 达 87.0。以此对比,Claude Fable 5 在 HLE 上是 63.8,GPT-5.6 Sol 在多个项目上由作者自测。
不过,成绩单需要打几个折扣。首先,每个 Axion 分数都是三次运行中的最好成绩(best-of-3),BMB 更是五次里取最好,而非平均值;其次,122B 的 HLE 59.0 是在"受限网页访问"条件下取得的;再者,对比表格里有不少空格,部分分数由 Axion 作者自行测量,不同测试条件并不完全可比。在 HLE 和 BMB 上,Claude 系列和若干闭源系统仍然领先。
团队也坦承了局限:Axion 的能力高度依赖工具调用——接上搜索、网页阅读、文献检索和 Python 时优势明显,若只放在普通聊天界面里,很多智能体能力会消失。此外,基准主要集中在科学推理与信息检索,对编程智能体、长时间电脑操作和产品化工作流覆盖不足,性能也在相当程度上来自 Qwen 基座。
想自己跑?目前只有 35B 的"社区重建版"
这次真正可下载的,只有 35B 检查点,且是 BF16 精度、约 35.1B 参数,标注为 Apache 2.0。需要注意,README 特别说明这是"社区重建版,而非官方 Axion 检查点"——122B 的权重并未找到下载链接,想用只能按训练说明自行重训。
部署门槛并不算高:BF16 全精度约需 70GB 显存/磁盘,4 位量化后约 22–24GB 显存,一张 RTX 3090/4090 或 32GB 统一内存的 Mac 就能跑;由于每 token 只激活 3B 参数,还可以考虑把部分专家卸载到系统内存。社区重建版的复现成绩接近论文数字——HLE 52.8、SEAL-0 60.4——不过这只是一次复现的结果。
对一个开源项目而言,Axion 1.0 的价值或许不只在于分数,而在于它把"可验证的数据 + 简洁的训练配方"这套方法论完整交了出来。当越来越多团队开始怀疑"堆阶段"的必要性,三阶段够不够这个问题,值得整个行业重新算一算。