vLLM-SR开源Decision 3.0：0.59B到26B六款多模态决策模型，不写一字只做判断

2026年10月10日，vLLM Semantic Router（vLLM-SR）团队在 Hugging Face 上悄悄放出了 Decision 3.0 系列——六款开放权重的多模态决策模型，全部采用 Apache-2.0 许可。它不写一句话、不生成任何文本，只回答"选 A 还是 B""是或否""打几分"这类判断题，却把从 0.59B 边缘芯片到 26B 云端旗舰的尺寸都覆盖齐了。这也是"决策模型"这条独立赛道里，第一个同时做到开源、可本地部署、且规模谱最全的发布。

它到底是什么：System 1 决策模型

Decision 3.0 属于社区常说的"Jev 类"或"System 1"决策模型。与传统大模型最大的不同是：它不去生成 token，而是在一次调用里接受若干道 Choice（多选）、Yes/No（是非）或 Score（打分）问题，对每一道题单独做一次前向，直接返回每个选项的概率。开发者拿到的不是一段需要解析的文本，而是一组可设阈值的校准分数，天然适配路由、分类与护栏（guardrail）场景。

这类模型的兴起有清晰的工程动机：一个多步智能体在订机票、分流工单、决定下一步调用哪个工具时，绝大多数步骤都接近"这是 A、B 还是 C"，而不是"给我写一段话"。把每个微决策都塞给 GPT-6、Gemini 这类前沿模型，既烧 token、又加延迟、又加钱；换成一个几十亿参数、专注判断题的小模型，往往同样可靠，却便宜得多。

六款规模，从边缘到云端

系列共六个检查点，参数含视觉编码器：旗舰 d3 26.09B（含 0.46B 视觉编码器）、d3-flash 8.39B、d3-mini 4.54B、d3-nano 2.21B、d3-lite 0.85B，以及最小的 d3-edge 0.59B。除 d3 基于 Qwen3.8-27B 微调外，其余都建立在 Qwen3.5 的 0.8B、2B、4B、9B 检查点之上。

输入可以是文本或 JSON，再叠加多张图片（PNG/JPEG/WebP，单张最高 160 万像素）和多段视频（2 fps 抽帧，整段最多 32 帧，单帧最高约 20 万像素）。五个变体读图，d3-edge 等最小档则更偏纯文本与轻量前置筛选。

怎么用

安装 transformers==5.17.0 后，用 AutoModel.from_pretrained("vllm-sr/d3", trust_remote_code=True) 加载，再调用 model.system_one(state=..., questions=..., images=..., videos=...) 即可拿到概率结果。由于需要 trust_remote_code，生产前务必先审阅仓库代码。官方建议的实战思路很直接：用 0.6B–2B 这一档在网关层做意图路由和工具调用审查，把真正棘手的问题交给 27B 或通用大模型——用最小的成本把"要不要拦、该走哪条路"先判断掉。

性能：团队自报，登顶内部榜

所有跑分均来自 vLLM-SR 自己的模型卡与自测，尚未见独立第三方复测。在 Jev Decision Index 0.3.1 上，d3 拿到 64.7，排在 Perplexity Decider v1.1（62.8）、Fastino GLiDE（60.2）、Jev（60.1）和上一代 Decision 2.0（55.9）之前；视觉榜 d3 71.6，同样高于 JEV-27B-VL 的 69.6。延迟方面，在单张 AMD Instinct MI325X、单并发下，d3 文本中位 55 毫秒、带图 273 毫秒、10 秒视频 553 毫秒；最小的 d3-edge 文本中位仅 6.7 毫秒，适合做前置粗筛（公共集得分 28.82，小模型定位明确）。

值得注意的是，视频能力是零样本的——训练阶段模型没有见过视频，却在 Perception Test 验证集上拿到不俗成绩，说明多模态表征有一定迁移性。

为什么这件事值得关注

Decision 3.0 是决策模型赛道的第四个重要发布，前三个分别是 Liquid AI 的 d1、微软的 Microsoft-Decision-1 和 Cloudflare 的 Clef-omni。和它们相比，vLLM-SR 这次的最大差别是：开源、本地部署友好、且一口气覆盖六种参数规模，把"决策模型"从实验室概念往前推到了可产品化的台阶。当智能体每天要做出成千上万次"选一个"的判断时，一个能塞进笔记本甚至边缘设备、又能对难题交棒的开放权重方案，价值就显现出来了。

需要留意的边界

这次发布几乎没有正式公告——vLLM 项目账号在 10 月 11 日发了一条祝贺帖，引用了维护者的介绍串，这就是全部的公开记录；GitHub releases 和项目博客也没有对应的发布说明。分数全部来自团队内部评测，实时榜单数据则是他们自己维护的，阅读时应把"已发布产物"和"尚未审计的声明"分开看待。此外，trust_remote_code 意味着要信任并执行仓库里的自定义建模代码，上线前务必做代码审阅；视频零样本能力虽惊艳，但在真实业务里仍需针对性验证。

一句话总结：Decision 3.0 给"让模型少说话、多判断"这条路线补上了最全的尺寸拼图，开源社区又多了一套可以本地跑、按场景挑大小的决策底座。

来源：vLLM Semantic Router 官方模型卡及多家科技媒体综合报道