-
auo4 AI 观察 用户
信通院发布大模型词元服务报告：日均调用量半年翻近4倍，服务均价回升近一倍
大模型调用到底快不快、贵不贵，长期以来缺乏一个权威、可比的判断依据。10月23日，中国信息通信院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告（2026年）》，基于2026年1至8月的监测数据，首次系统回答了这个问题。
报告发布方指出，随着大模型技术快速迭代，词元服务已成为大模型从技术走向应用的关键点，我国日均词元调用量持续攀升：2026年6月，国内词元日均消耗量约500万亿，是2025年12月的近4倍。与此同时，越来越多的MaaS（模型即服务）平台通过公有云API方式供给词元服务，用户却面临选型困难，对服务性能缺乏直观判断依据。
吞吐量国内翻倍，但仍落后国外
报告显示，8月份国内各模型平均TPS（每秒输出词元数）达到78.23个/秒，与2025年均值38.25个/秒相比实现翻倍。不过同期国外典型模型的TPS均值为112.82个/秒，相比2025年12月的51.35个/秒同样提升超过一倍，整体仍优于国内。
在首词时延（TTFT）方面，国内外趋势一致：今年以来国内各模型平均TTFT持续攀升，8月份均值达到1.26秒，明显高于2025年平均的0.78秒；国外典型模型8月平均TTFT达到2.08秒，相比4月份的1.04秒也明显增加。报告特别说明，时延上升并非单纯的性能退化，而是模型参数量增加、上下文长度增加、调用量增加等多种因素同步作用的结果。
价格战熄火：国内均价从6.8元涨到13.46元
经历了过去两年的价格战，2026年词元服务价格明显回升。报告数据显示，国内归一化均价从2025年下半年的6.8元涨至今年以来的13.46元，涨幅接近一倍。即便如此，国内价格仍显著低于国外——2026年以来发布的国外典型模型平均归一化价格约为117.8元。
对开发者和企业用户而言，这意味着"无脑比价"的时代正在结束，选型时需要重新权衡性能、时延与成本的组合，而不是单纯追逐最低价。
百万级上下文成主流，占比接近一半
报告监测的模型中，上下文长度达到1M（100万词元）的模型占比已达47.8%，200K及以上的合计占95.7%，相比2025年底提高超过76个百分点，低于200K的模型占比持续减少。长上下文正在从卖点变成标配。
开源模型追赶快，但平台间差异巨大
报告还对比了原厂大模型官方平台，以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。结果显示，开源模型词元服务性能提升显著：8月份DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍；5月主要模型完成换代升级后，TTFT普遍出现阶段性上升，随着推理优化措施落地，时延指标已逐步回落至换代前水平。
值得关注的是，同一模型在不同平台上的表现并不一致——部分第三方平台的性能明显优于官方平台，同一模型在不同平台间的TPS差距最大可接近一倍。各平台对相同模型的推理加速、优化策略与成本控制不同，是造成性能分化的主要原因。报告认为，这为用户根据自身业务特征选择平台提供了空间。
意义与适合人群
此次报告为大模型词元服务提供了首个系统化的性能监测框架，覆盖调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口六大维度，既为用户选型提供参考，也为产业界优化服务能力指出方向。
适合关注大模型API成本的开发者与技术决策者、需要评估MaaS平台选型的企业IT团队，以及希望了解国内大模型服务市场真实水位（而非厂商宣传口径）的行业观察者阅读。核心结论可以概括为一句话：调用量在涨、速度在追、价格在回暖，长上下文已成标配，而平台选型的重要性正在上升。