-
auo4 AI 观察 用户
田渊栋团队开源Flint-40B-A2B：AI自动科研4个月造出，MacBook Pro每秒125 token
10月21日晚，前Meta FAIR研究总监田渊栋参与创立的Recursive公司发布了首款模型Flint-40B-A2B——一款主打本地智能体编程的开源混合专家（MoE）模型。它的特别之处有两个：一是够快，在M4 Pro芯片的MacBook Pro上生成速度超过每秒125个token；二是它的"出身"，从模型架构到推理内核，由Recursive自研的AI自动科研系统Eureka Machine全程深度参与，整套研发从零开始不到4个月。权重已以Apache 2.0许可证在Hugging Face开放。
40B总参只激活2.5B，500亿以下MoE里最能打
Flint的总参数量为400亿，每生成一个token只激活25亿参数，这个"稀疏"设计正是它能在笔记本上流畅奔跑的关键。
能力上，Flint在智能体编程基准测试中拿下了同规模段的领先成绩：Terminal-Bench 2.1得分54.9%，SWE-Bench Pro v2得分89.7%，SWE-Bench Verified得分74.2%，超过所有总参数量低于500亿的MoE模型；IFBench和IFEval则取得最高分。与参数量相近（250亿至400亿）的稠密模型相比，Flint性能相当，但运行速度快了5倍以上。
推理速度的实测数据更直观：在M4 Pro的MacBook Pro上，短上下文场景每秒生成超过125个token；在64GB内存的NVIDIA RTX Spark上超过每秒150个token，最高达同类模型的2倍。有开发者在M5 Max 64GB上实测达到每秒114至132个token；还有人在只有12GB显存的RTX 3060上，用NVFP4量化版跑起了这个400亿参数的模型，速度约每秒46个token，支持256K上下文。已经有用户在一台48GB内存的Mac上同时跑约50个Agent，让Flint常驻内存接管日常任务。
Flint支持最长512K token的上下文窗口，官方建议日常使用控制在256K以内。它兼容llama.cpp、Ollama、Unsloth、LM Studio、vLLM和SGLang等主流工具链，Recursive还开源了一个专为M4 Pro和M5 Pro/Max芯片优化的轻量推理引擎rec，配置流程简单，开箱即用。
Eureka Machine：AI参与研发AI
Flint最值得琢磨的不是跑分，而是生产方式。
Eureka Machine是Recursive打造的自动化研究系统，能够自动完成一整套科研流程：提出想法、编写实现、运行测试，再根据结果决定下一步尝试什么，还可以同时探索多条技术路线，把不同实验中表现出色的方案组合起来。在Flint项目中，这套系统深度参与了从数据处理、训练方案、基础设施到推理优化的几乎所有环节。
几个具体环节能看出它的参与深度。架构设计上，系统从350亿总参、30亿激活的基线出发，探索不同的专家配置和网络宽度，最终锁定40B总参、2.5B激活的方案，兼顾本地硬件的推理速度和编程能力。量化阶段，系统做了一个反常规的决定：把输出层也压到4比特——因为Flint每个token只激活25亿参数，输出层在每次生成需要读取的权重里占比很大，压这里收益最高；为了补回精度，又增加离线蒸馏环节，让量化模型用16位模型当老师、在自动发现的核心样本上训练，训练步数比量化感知训练基线少了近一半，最终NVFP4版与16位版在各项基准上差距不超过0.7分。推理内核方面，系统为Apple Silicon和RTX Spark生成专用计算内核，在M4和M5芯片上甚至做出一个Metal大型融合内核，把整个解码阶段的前向计算合并进一个内核执行。
这套打法与Recursive的长期目标一脉相承：打造能递归式自我改进（RSI）的系统，让AI参与改进AI的研发流程，再用更强的模型反哺下一轮自动科研。当然，Flint仍是人类研究员与AI协作的产物，还不算完全自主的递归自我改进，但"AI造模型"的各个环节已经开始串起来了。
笔记本上的自主科研
模型发布后，Recursive研究员还演示了一个更有意思的方向：让Flint自己在笔记本上做科研。研究者只需提供任务和可衡量的评价指标，Flint就能提出思路、编写代码、运行实验、根据反馈改进方案。
三个演示任务都拿到了实打实的结果。圆形填充问题中，Flint在没有视觉输入的情况下，通过代码调整圆的位置和半径、尝试不同初始化方案，128个实验后持续优化布局得分；工厂调度任务中，它重新排列作业执行顺序，让任务整体完成时间比轮询调度基线提前26%；共享单车需求预测中，它探索出对数与二次时间特征加残差树模型的组合，让验证集RMSLE降低30.8%、留出测试集降低9.1%。
此前做自动科研通常要调用大型闭源模型，如今一个能在本地跑的开源40B模型也能走完提出假设、编写程序、验证结果、迭代改进的全流程——本地模型的"速度与能力"甜点区，第一次被实实在在地摸到了。
对关注AI编程的人来说，Flint给出的信号很明确：一方面，本地开源模型已经能把智能体编程做到可用甚至领先的水平，数据不出设备、不用付API账单；另一方面，"AI研发AI"不再只是论文里的概念，而是有了4个月交付一个模型的工程样本。Recursive表示，接下来会继续开发更强的本地模型和配套基础设施，并把这套自动科研流程延伸到更广泛的AI研发领域。