Nace AI 开源 Drex Max v1：27B 决策模型不写文字只给概率，24GB Mac 即可本地跑

Nace AI 在 11 月 1 日放出了 Drex Max v1 的开放权重。这是该家族目前最强的一颗「决策模型」：稠密 27B 参数，不生成文字，而是对每个选项在单次前向里直接给出概率。在此之前，Drex Max 只能通过 Nace 的托管 API 调用；权重开源后，它可以跑在开发者自己的 NVIDIA 显卡或 Apple Silicon Mac 上——甚至一个 24GB 内存的 Mac 就能带动 4-bit 版本。

它不是「会写字」的大模型

普通大模型干的是「生成下一段文本」；Drex Max 干的是「在一组选项里打分」。你传入一个上下文（文本、JSON 或图像），再加上带名字、带类型的问题，模型在单次前向传播里返回每个选项的概率，全程不生成任何文字。

问题分三类：在命名选项里做选择、yes/no 判断、以及序数评分（ordinal score）。这种「只做小决定、不做长文本」的特性，正好贴合软件系统里那些高频、重复的判断：智能体路由（该交给哪个子 agent）、工单分流（这是 bug 还是咨询）、工具选择、以及策略或护栏检查。相比起为了一个二分类去吊起一个庞大的 LLM，Drex Max 又快又便宜。

架构：27B 稠密骨干 + 混合注意力

模型卡显示，Drex Max v1 是一个稠密 27B 骨干，共 64 层：其中 48 层是 Gated DeltaNet 线性注意力层，从左到右依次计算；另外 16 层是全注意力层，每隔四层插入一层，并且是非因果的，意味着每个 token 都能看到整条序列。图像经过原生的视觉塔（vision tower）进入，并且在一次请求里对每一道题都可见。

它还有一个 255 路的读出头（readout head），把最后一层隐状态转成选项概率。模型配置里标注为 qwen3_5 类型，窗口长达 262,144 个位置，单次请求默认上限 16,384 token，每题最多支持 255 个选项。

成绩（均为 Nace 自报，基准截至 10 月 19 日）

  • Decision Index 0.4（公开文本集）：67.52，高于 Drex v2.0 的 61.25 和 Jev 1.13.0 的 57.96，统计基于 140,620 条请求（未作答计为错）。
  • 公共视觉指数：73.92，覆盖 11 个基准、12,210 行，其中 InfographicVQA 达 97.3。
  • Artificial Analysis Decision Index：64，Nace 称在 18 个系统里排第 4。
  • JevBench：92.2%（213/231）；Decision Bench v4：94.30%（1010/1071）。
  • 分项能力：Tools 81.9、Language 72.2、Retrieval 68.8、Knowledge and Reasoning 57.1、Arts 53.4。

需要提醒的是，以上数字全部由 Nace AI 自报，目前还没有第三方在刚发布的权重上独立复现。另外 Nace 的 Drex 产品页现在主推分数更高的托管版 Drex Max v1.1，本文所有数字都对应开源的 v1，别把两个版本混为一谈。

五种运行方式（共用同一套 API）

Nace 文档了五套运行时，全部服务同一个 POST /v1/systemone 接口，所以原来写给托管版的代码在本地照样能跑：

  • Python + NVIDIA GPU：跑完整模型（含图像）。bf16 权重约 49GB，8-bit 加载约 26GB（在 H100 和 48GB 的 L40S 上测试过）。
  • llama.cpp / Ollama 分支：用 Q8_0 GGUF（27.25GB 文件），需要 48GB 的 Mac，只跑文本骨干。
  • Kapitsa（≥0.2.25）/ MLX：跑 affine Q4 检查点，模型文件夹 14.45GB，24GB 内存的 Apple Silicon Mac 就能带。
  • CPU：同样走 llama.cpp / Ollama 分支，纯文本。
  • 量化保真度不错：在 48GB 的 Apple M5 Pro 上，Q8_0 GGUF 与 H100 bf16 的逐概率误差在 0.02 以内；affine Q4 与 Q8_0 的差距在 0.0329 以内，且没有出现任何选项「翻转」。

一个坑要注意：本地 Mac 和 CPU 路径目前只支持文本骨干，图像仍要走 Python GPU 路径。需要大量看图、做计算机操作的场景，还是托管 API 更合适；而纯文本的决策类任务，本地构建足以让数据留在自己的机器上。

许可与意义

权重以 Nace.AI Open RAIL-M 协议开源。对团队来说，最大的价值是把路由、分类、策略检查这类原本要打 API 的请求变成可离线运行——隐私更好、延迟更低、成本固定。对端侧 AI 而言，一颗能读图、会打分的 27B 决策模型开放权重，意味着「本地智能体大脑」又多了一块可拼装的零件。

（来源：Nace AI Hugging Face 模型卡、MarkTechPost 与多家科技媒体 11 月 1 日报道整理）