Salesforce 推出 Koa Decisions：用 26 毫秒小模型接管智能体的"决策路由"

2026 年 11 月 6 日，Salesforce 发布了 Koa Decisions——一个专门替智能体做"小决策"的模型。它不属于又一座参数更大的通用大模型，而是HyperClassifier（已经在 Agentforce 里跑了大半年、负责把用户请求分发给对应模块的路由模型）的升级版。最大的变化是：它现在能读图、也能"听"音频，而不只是处理文字；并且在一步之内吐出一个明确的结论——选哪个类别、是或否、或者一个分数，通常只需要几毫秒。

这件事看起来不起眼，却戳中了企业级智能体最贵、也最容易被忽视的那块成本：绝大多数智能体真正在做的不是"写文章"，而是"做选择"。一封"我的包裹到哪了"的工单，要被送到物流模块；一句"我要退货"要转给售后；一段语音里用户是否说完话，要被实时判断出来。过去这些活儿要么靠写死的规则，要么每次都喊一个完整的通用大模型来分类，既烧 token 又多出一秒多的延迟。Salesforce 的赌注是：这些高频、低风险的"小决策"，应该交给一个又小又专的模型，而不是每一次都惊动旗舰级大模型。

它到底是怎么工作的

大模型是"一个词一个词往外蹦"的：每生成一个新 token，都要基于前面所有内容重新算一遍。决策模型走的是另一条路——它一次性读完整个请求，然后直接输出一个极短的答案，往往只有一个 token。因为答案短，需要的算力就少，别的软件也能立刻拿这个结果去行动。

在 Salesforce 的演示里，用户说"我登不进账号了"，模型会从你事先定义好的类别列表（比如工程、账号、销售）里挑出"账号团队"，同时附上一个置信度分数。智能体据此把工单路由过去，而把真正需要写作、推理的任务留给通用大模型。整个流程对使用方是透明的：客户不需要为每一项任务手动挑模型，系统自己知道"哪些小决定该交给谁"。

Koa Decisions 是基于 Google 的开放权重模型 Gemma，用新的训练技巧微调出来的。研究团队把分类、语义端点检测、布尔判断、评分这几类任务统一表述成"带约束的生成"，并用"单次 token 输出"来实现：给每个类别分配一个特殊的原子标签 token，配合监督微调，把任务压成确定性的"一步解码"。

速度才是真正的卖点

Salesforce 给出的最直观对比是延迟。在 Agentforce 的路由请求上，前代决策模型 HyperClassifier 的响应时间约为 26 毫秒，而通用前沿大模型大约是 1.4 秒（1446 毫秒）——差了约 55 倍。Koa Decisions 继承了这一定位，并补上了前代做不到的事：它能同时看一张图片、听一段语音来做同一个一步式决策。比如一张破损快递的照片，或者一段口述的退货需求，都能直接驱动路由判断。

准确率方面，团队发布的研究预印本报告称，该模型在生产环境的意图路由基准上达到 85.5% 的准确率，在相同服务条件下，中位响应速度比受测的前沿模型最快约 7.5 倍。需要说明的是，这些是 Salesforce 自家的测量数字，并非第三方独立基准。此外还有一个很实用的差异：你可以随时往列表里加一个全新类别（演示里加的是"退货"），模型立刻就能用上，不需要重新训练，也不需要事先准备带标签的数据集——相比之下，传统的定制预测分类项目往往要花上好几个月。

现在能用到什么程度

好消息是门槛极低：任何人都可以通过 Agentforce Labs 试用 Koa Decisions 的公开演示，只需要一个免费的 Trailhead 账号，不要求你是 Salesforce 客户。在演示里你能自己改请求和类别列表，实时看到每个选项的置信度分数。

但要分清"已经上线"和"路线图"。今天真正交付的，是它在 Agentforce 内的路由角色，加上这个公开演示。Salesforce 明确表示，把 Koa Decisions 从单纯的路由扩展到 Flows、Apex、提示模板乃至开发者 API，都还是"计划中的集成"，没有给出正式可用日期，也提示定价、套餐和区域可用性都可能变化。所以把它当成"企业智能体的路由层已经验证可用"是稳妥的，当成"全套工具链已开放"则言之过早。

为什么这件事值得关注

真正的信号不是又多了一个大模型，而是"拆模型"这件事正在发生。路由、打分、放行或拦截检查，这些是高频、枯燥、却又烧旗舰模型 token 的决策。一个 26 毫秒就能给出结论、还能顺带看一眼照片或听一段语音的专用模型，能让智能体流程在用户真正能感知的层面变得更快、更便宜。Salesforce 自己也给这个趋势点了题：决策模型正当时——TypeSafe AI 的 Jev 在 9 月中旬结束 stealth 亮相，OpenAI 一个月后把 Decisions API 正式开放，Koa Decisions 则站在同一条"专用决策层"的赛道上。

如果 Salesforce 真把 Flows、Apex 和开发者 API 那部分兑现，"到底由哪个模型来做这些小决定"就会从 Salesforce 的内部细节，变成每一个企业开发者都要做的架构选择。而无论最终兑现多少，一个结论已经清晰：在大规模跑智能体的成本账里，把"小决定"从大模型手里接过来，用更小、更专的模型去完成，是一条正在被头部厂商共同验证的路。