ScaleDown推出约束解码模型CDM：单任务模型一次前向直出，比前沿大模型便宜467倍

通用大模型擅长写代码、写文章，但有一类活它们干得又贵又慢：分类、抽取、摘要。10 月 13 日，初创公司 ScaleDown 发布了一类新模型——约束解码模型（Constrained Decoding Models，简称 CDM），专攻这类高频重复任务，官方宣称比前沿大模型 API 快 200 倍、便宜 467 倍。消息经 OpenRouter 上架与合作方公告迅速传开，LangChain 也在同期发布了深度集成教程。

不逐字"憋答案"，一次前向直出

CDM 与通用大模型的根本差异在推理方式。通用 LLM 回答任何问题都是一个 token 一个 token 地生成，生成完还要检查自己刚才写得对不对；而 CDM 针对单一任务训练，只返回该任务允许的输出形式——比如分类标签、输入文本中的片段、或固定结构的 JSON，一次前向传播直接出结果，跳过了"逐字生成"这个最烧钱的环节。

ScaleDown 创始人 Neal Patel 在发布中直言："这些模型不会逐字写出它们的答案。"对"这封邮件是不是投诉""这条工单该归到哪类""这句话对不对"这类问题，答案本就是 A、B、C 中的一个，用通用大模型逐字生成既慢又贵，CDM 则把这部分开销直接砍掉。

四款单任务模型，各管一件事

目前 CDM 家族共有四款模型，每款只干一件事：

  • Summarize：把长文本压成短摘要，用于智能体历史压缩与会议记录归档；
  • Compress：针对某个问题，把一大段上下文裁成与问题相关的部分；
  • Extract：用自然语言描述想要的字段，直接返回干净 JSON，每个字段附带置信度和在原文中的位置；
  • Classify：开发者自定义标签集，模型对每个标签给出校准过的概率，还可以附一句分类理由。

四款模型的输入上限均为 100 万 token，一份完整合同、一页长政策文档、一小时的智能体历史，一次调用即可处理，无需切块。其中 Extract、Summarize、Classify 还支持多模态输入，截图、扫描版发票可以直接扔给模型。

价格与实测数据

定价上，CDM 每百万输入 token 收费 0.05 美元，输出完全免费；OpenRouter 上线促销价更低至 0.04 美元/百万输入 token，新账号还可在 50 小时窗口内领取 5000 万免费输入 token。

准确率方面，Classify 在 CLINC OOS 意图识别基准上拿到 95%，高于三家 OpenAI 模型 89.6% 的平均分，而成本只有后者的 1/1810。在 ScaleDown 自己的基准测试中（对比 GPT-5.5、GPT-5.4 Mini、GPT-5.4 Nano 三者的平均），Summarize 便宜 41 倍、快 2.7 倍，Compress 便宜 138 倍、快 1.8 倍，且两项准确率都更高。

生态与场景

CDM 已上线 OpenRouter、Vercel、LiteLLM 和 LangChain。LangChain 同步开源了 langchain-scaledown 集成包，内置三个中间件：历史摘要、工具结果压缩、对话结构化抽取，并接入 LangSmith LLM Gateway，调用可追踪、计入额度。LangChain 官方博客的定位很清晰：让前沿模型只管规划和写代码，上下文管理的杂活交给 CDM。

这类模型瞄准的是智能体流水线里的高频低价值环节。一个跑几个小时的编码智能体，历史里堆着几十次文件读取和工具输出，每次历史写满都用前沿模型摘要一次，成本和延迟都会随运行时间线性膨胀。CDM 把"决定哪些信息进上下文窗口"这件事本身变得又快又便宜，长时运行的智能体因此更可行。

对开发者的启示在于分工：硬推理仍留给前沿大模型，而分类、抽取、摘要、上下文压缩这类"无聊但量大"的工作，正在出现专门的廉价替代品。当单次调用成本降到一个数量级以下，过去因为"用大模型不划算"而放弃的自动化场景，会重新变得值得做。

来源：HuggingNews、LangChain 官方博客、OpenRouter、AI Fire