OmniRoute 开源:一个端点打通 375 家供应商、1400+ 模型,Token 直接省 15%~95%

如果你同时用过 Claude、GPT、Gemini、Kimi、DeepSeek,大概率遇到过这些麻烦:每个厂商一套 API Key、一套请求格式;订阅额度半夜被用光,任务卡在半路;模型一贵,账单就失控;想换便宜模型,又得改一堆放对接代码。

OmniRoute 就是冲着这些痛点来的。它是一个 MIT 协议开源的 AI 网关:一个端点,统一接入 375 家供应商(其中 150+ 免费)、1400+ 模型,并自带配额感知的自动回退与 Token 压缩,宣称能把 Token 消耗砍掉 15%~95%。项目由 900+ 贡献者共建,GitHub 星标已逼近 8 万,技术栈为 TypeScript,MIT 许可证。

它到底是什么

简单说,OmniRoute 在你和各家大模型之间塞了一层「智能路由」:

  • 你的 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot 等编程智能体,不再直连某一家厂商,而是统一指向 OmniRoute 暴露的那个端点;
  • OmniRoute 负责把请求按策略路由到合适的供应商、模型和价位档;
  • 当某个订阅被用光、某个 API 限流或超时,它自动切到下一个可用来源,让任务不中断。

对开发者而言,最大的体感变化是:「一个端点、一套格式」替代了「N 家厂商、N 套对接」。

核心能力一览

1. 375 家供应商、1400+ 模型一个端点搞定 覆盖 Kimi、Claude、GPT、Gemini、GLM、DeepSeek、MiniMax 等主流与长尾模型。无论你用哪家,请求都走同一个接口,格式保持一致。

2. 配额感知的自动回退(Quota-aware auto-fallback) OmniRoute 会按你配置的「优先级阶梯」调度:先用你已有的订阅额度,额度见底后自动退到按量付费或免费来源。对「半夜跑长任务、不想被限额打断」的开发者尤其友好。

3. RTK + Caveman 压缩,Token 省 15%~95% 这是 OmniRoute 最被津津乐道的一点。它内置两套压缩策略——RTK 与 Caveman,通过对提示词与上下文做智能压缩,在常见开发命令上把 Token 消耗降低 15% 到 95%。对于高频调用、长上下文、Agent 多轮迭代的场景,账单差异相当可观。

4. MCP / A2A 协议支持 OmniRoute 不只提供 REST 端点,还实现了 MCP(Model Context Protocol)与 A2A(Agent-to-Agent),并附带一个 MCP Server(支持多种传输方式),让智能体可以直接「驾驶」整个网关——路由、配额、压缩策略都能被 Agent 在对话里调度。

5. Desktop / PWA 形态 除了命令行,OmniRoute 还提供桌面端与 PWA(渐进式 Web 应用)形态,方便在本地常驻管理多家供应商与配额。

兼容性:主流编程智能体通吃

OmniRoute 明确支持 Claude Code、Codex、Cursor、OpenCode、Cline、Copilot。官方还为每个工具准备了对应的接入说明文件(如 CLAUDE.md、AGENTS.md、GEMINI.md、copilot-instructions.md),并提到这些文件会在每次会话加载约 11,700 token 的上下文,告诉智能体「怎么用这个网关」。

安装方式也很轻量,一条命令即可拉起:

npx omniroute

凭什么火:数据说话

  • 星标:GitHub 星标约 7.9 万~8.1 万(不同镜像站统计略有差异),在 GStars 跟踪的 3000+ 仓库中一度冲到周榜前 1%,早期曾登顶周榜第一;
  • 贡献者:900+ 人参与共建,体现出「社区驱动」而非单人维护的活跃度;
  • 许可证与语言:MIT 协议、TypeScript 实现,商用友好、易于二次开发;
  • 时间线:项目创建于 2026 年 2 月,到 10 月已发布数十个版本,最近一次稳定版在 10 月中下旬,迭代相当密集;
  • 主页:omniroute.online,提供文档、Demo 与下载。

怎么用:一个最小实践

  1. 本地 npx omniroute 拉起网关,获得统一端点;
  2. 在 Claude Code / Cursor 等工具里把 API Base URL 指向该端点,API Key 用 OmniRoute 生成的路由密钥;
  3. 在配置里排好供应商优先级,例如「先用订阅额度、再走按量、最后兜底免费模型」;
  4. 打开 RTK / Caveman 压缩,观察长任务下的 Token 账单变化。

适用场景与注意事项

适合谁:被厂商锁定和额度限制反复折磨的开发者;需要把多家模型统一纳管、做成本与配额治理的团队;在受限地区需要灵活路由、规避地理封锁的开发者;想本地优先、又能用云端溢出的混合部署用户。

要注意什么:第一,OmniRoute 把请求路由到多家第三方供应商,意味着你要自行评估各家的数据合规与隐私边界;第二,自动回退虽然保证「不中断」,但不同模型能力有差异,关键任务建议锁定主模型而非完全交给自动调度;第三,压缩策略虽能省 Token,但对极少数强依赖完整上下文的精密任务,建议先小范围验证再全量开启。

小结

OmniRoute 的走红,折射出 2026 年开发者对 AI 基础设施的一个清晰诉求:不要被单家厂商绑定,不要为 Token 天价买单,不要在大模型之间反复改对接代码。一个端点、375 家供应商、1400+ 模型、配额感知回退、15%~95% 的 Token 压缩,再加上 MIT 开源与社区共建——它把「AI 网关」这件事做到了足够简单、足够开放。对于重度使用编程智能体的团队来说,值得一试。