OmniRoute — 免费 AI 网关

通过一个端点接入 291 家 AI 提供商(90+ 免费),自动故障转移,内置压缩节省 15–95% token,兼容 Claude Code、Codex、Cursor 等工具。

Star 数
★ 78k
最近更新
今天
License
MIT
主语言
TypeScript

30 秒速览

运行形态
命令行工具自托管服务桌面应用
可在哪里用
通用 · 跨平台Codex · Claude Code · OpenAI API · Claude API
费用
软件免费,模型调用费用自付
上手难度
低 · 几分钟可跑通
开始前需要
Node.jsDocker(可选)npmShell / 命令行网络访问
典型场景
希望对多个 LLM 提供商统一访问的开发者,避免管理多个 SDK 和 API 密钥。
不适合
  • 不愿把提示词发送给第三方 AI 提供商的用户
  • 需要稳定生产级免费额度、无法接受免费层限流波动的团队

这个 Agent 能做什么,适合哪些场景?

OmniRoute 是一款开源的本地 AI 网关,聚合了 291 家 AI 提供商(90+ 免费、40+ 永久免费),通过一个 OpenAI 兼容端点(/v1)统一接入 Claude Code、Codex、Cursor、Cline 等 33 种编码工具。它提供 19 种路由策略,包括自动组合和故障转移,可在配额用完时无缝切换供应商。内置 12 层可插拔压缩引擎(RTK、Caveman 等),平均可节省约 89% 的 token。支持 MCP(105 个工具)和 A2A 协议,并提供 CLI(80+ 命令)、Dashboard、桌面应用和 PWA。采用 MIT 许可证,100% 本地优先,无需账号即可零配置使用免费提供商。

OmniRoute 作为本地代理运行,接收来自兼容 OpenAI 的客户端的请求,并通过其智能路由器转发到配置的提供商。它提供了 Combo 概念(提供商链),支持优先级、权重、round-robin、成本优化、缓存优化等 19 种策略。默认的 auto 模型根据 12 个因素对连接的提供商进行实时评分,并在故障时自动回退。它通过 12 个引擎(如 RTK、Caveman)对请求和响应进行压缩,以节省 token。它还提供 MCP 服务器(stdio/HTTP/SSE)和 A2A 端点,允许 AI 代理管理路由、提供商、组合、缓存和压缩。CLI 提供 80+ 命令,用于管理提供商、密钥、组合、日志等。

  1. 希望对多个 LLM 提供商统一访问的开发者,避免管理多个 SDK 和 API 密钥。
  2. 使用 Claude Code 或 Codex 并希望在配额用尽时自动回退到免费或低成本模型的用户。
  3. 希望优化 token 消耗、降低调用成本的团队,通过压缩节省高达 95% 的 token 费用。
  4. 需要在多个提供商之间进行智能路由,根据延迟、成本或剩余配额选择最佳提供商的场景。
  5. 希望为编码助手提供本地优先、隐私保护且无需云端的网关的开发者。

如何安装或部署这个 Agent?

通过 npm 全局安装:npm install -g omniroute。然后运行 omniroute 启动服务器,默认监听在 localhost:20128。也可以通过 Docker 安装:docker run -p 20128:20128 diegosouzapw/omniroute。支持 Windows、macOS、Linux,可通过 Electron 桌面应用或 Termux 在 Android 上运行。

如何使用这个 Agent?

安装后,将您的工具指向 http://localhost:20128/v1。对于零配置的用法,设置模型为 auto,OmniRoute 将自动选择可用的提供商。您可以使用 curl http://localhost:20128/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}' 进行测试。在支持的工具中配置 API base URL 为 http://localhost:20128/v1。使用 CLI 管理配置,例如 omniroute combo list 查看组合,或 omniroute setup 进行引导。

这个 Agent 有哪些优点和局限?

优点
  • 聚合 291 家提供商,90+ 免费,零配置即可使用
  • 19 种路由策略和自动故障转移,保证可靠性
  • 12 层压缩引擎,平均节省约 89% 的 token
  • 支持 MCP 和 A2A 协议,可被智能代理完全控制
  • 本地优先,隐私保护,无需云依赖
  • MIT 许可证,完全开源,可自行部署
局限
  • 免费提供商的速率限制和配额可能导致不确定性
  • 初始配置可能复杂,尽管有零配置选项
  • 大量功能可能导致学习曲线陡峭
  • 一些高级功能(如 LLMLingua-2)可能增加延迟
  • 依赖 Node.js 环境,且需要网络访问提供商

这个 Agent 与同类方案有什么区别?

与 OpenRouter、LiteLLM 等替代方案相比,OmniRoute 提供了更全面的功能集,包括 291 家提供商、19 种路由策略、内置压缩和 MCP/A2A 支持。它比 OpenRouter 更注重本地优先和免费提供商,而 LiteLLM 是更轻量级的库。

与相关度最高的同类 agent 并排比较关键指标。

Agent 源码审查 形态 / 费用 Star 最近更新 主语言 完整支持的平台
OmniRoute — 免费 AI 网关 当前 60 · 存在缺口 命令行工具免费 + 模型费 ★ 78k 今天 TypeScript Codex · Claude Code · OpenAI API · Claude API
OpenSquilla — 高效Token的AI代理 51 · 缺口较多 命令行工具免费 + 模型费 ★ 7.1k 1 天前 Python OpenAI API · Claude API
ClawCodex 51 · 缺口较多 命令行工具免费 + 模型费 ★ 911 今天 TypeScript ChatGPT · OpenAI API · Claude API
Code Puppy 57 · 缺口较多 命令行工具免费 + 模型费 ★ 869 今天 Python Codex · OpenAI API · Claude API

FollowAgents 如何评估这个 Agent?

FollowAgents 源码审查 · FARS-2.1
存在缺口
60/ 100 五分制 3.0 / 5
本评测基于 2026年8月9日 的源码;此后该项目发布了 3 个正式版本,尚未复审。分数与结论只代表评测时的版本。 最近版本 ↓
信任安全 14/29
可靠稳定 9/14
适用触发 12/18
规范维护 12/18
有效结果 9/13
证据核验 4/8
查看各维度的扣分理由
信任安全14 / 29 · 2.4/5

证据显示有安全架构(AES-256-GCM加密、JWT、OAuth、防护栏),但未提供最小权限原则的明确说明;用户确认机制(如危险操作确认)未明确;数据流透明度有文档但未详细说明;敏感数据处理有加密和PII脱敏,但未说明默认配置;依赖安全有npm audit和漏洞检查,但未提供具体依赖版本;外部影响(如MITM、TLS指纹)有提及但未充分说明;回滚机制未明确;来源归属有作者和仓库信息,但发布者未验证。

可靠稳定9 / 14 · 3.2/5

自一致性:README和SECURITY.md描述一致,但未验证代码实现;依赖可用性:有package.json和CI,但未验证依赖是否可获取;失败消息:有错误处理文档,但未验证实际错误消息。

适用触发12 / 18 · 3.3/5

受众和场景:README明确面向开发者,提供多种使用场景;能力边界:有文档说明功能范围,但未明确限制;触发精度:有路由策略和模型选择,但未验证;环境适配:支持多种安装方式,但未验证。

规范维护12 / 18 · 3.3/5

信息架构:有README、docs目录,结构清晰;安装说明:有Quick Start和多种安装方法;命名稳定性:有版本号,但未验证API稳定性;示例和FAQ:有示例,但未提供FAQ;已知限制:未明确列出;许可证:MIT许可证;版本和变更日志:有版本号,但未提供变更日志;维护责任:有维护者信息,但未验证。

有效结果9 / 13 · 3.5/5

输出可用性:有API和CLI,但未验证输出格式;边际价值:提供免费AI网关,有独特功能;成本效益:声称节省成本,但未验证。

证据核验4 / 8 · 2.5/5

声明可追溯:README中有声明,但未提供证据;跨来源验证:未提供多个来源;事实与推断分离:有文档区分,但未验证。

风险与缓解建议
  • 发布者身份未验证,需谨慎对待。
  • 安全声明(如加密、防护栏)未通过代码验证,仅基于文档。
  • 依赖安全未提供具体版本,需自行审计。
  • 外部影响(如MITM、TLS指纹)可能涉及法律和伦理问题,需注意。
证据充分度:低 评估于 2026年8月9日 审查版本 918647af693d 评估后仓库已有新提交,评分可能未覆盖最新改动
查看完整评分方法 →

最近版本

来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。

  1. v3.8.51
    发布说明摘录
    OmniRoute v3.8.51 2,022 documented changes — 235 features, 1,454 fixes and 333 maintenance entries from 1,973 commits in the cycle, with 301 external contributors. Thank you all. 📄 Complete release notes (every entry, full description and credit): attached below as CHANGELOG-v3.8.51.md, and in [CHANGELOG.md → [3.8.51]](https://github.com/diegosouzapw/OmniRoute/blob/main/CHANGELOG.md). GitHub caps a release body at 125,000 characters, so the 1,454 fixes and 333 maintenance entries live there in full. 📊 Release by the numbers | | | | --- | ---: | …
    在 GitHub 查看 ↗
  2. v3.8.50
    发布说明摘录
    📊 Release by the numbers | | | | --- | ---: | | 👥 People who contributed | 248 | | 📝 Commits in the cycle | 1,714 | | 🔀 Pull requests referenced | 1,666 | | 📋 Changelog entries | 1,182 | | 🙌 Contributors credited in entries | 256 | | 🤖 Automated dependency commits | 22 | Entries by type | Type | Count | | --- | ---: | | 🐛 Fixes | 779 | | ✨ Features | 169 | | 📚 Docs | 29 | | 🧹 Chore | 27 | | 🧪 Tests | 15 | | ♻️ Refactor | 5 | | ⚡ Performance | 3 | | providers | 2 | | 🔒 Security | 2 | | ⚙️ CI | 2 | | deps | 2 | | maint | 2 | 🏆 Top 25 contributors this cycle …
    在 GitHub 查看 ↗
  3. radar-export-latest Radar catalog export (rolling)
    发布说明摘录
    Export estável do catálogo OmniRoute para o Radar. Atualizado automaticamente; NÃO é um release de versão do produto.
    在 GitHub 查看 ↗

常见问题

OmniRoute 是免费的吗?
是的,OmniRoute 本身是 MIT 许可的免费开源软件。它聚合了 90+ 免费提供商,您可以在不支付任何费用的情况下开始使用。
我需要自己的 API 密钥吗?
不,零配置模式下,OmniRoute 预装了免费提供商(如 OpenCode Free 和 Felo),无需密钥即可使用。您也可以在仪表板中添加自己的密钥。
OmniRoute 如何保证可靠性?
它使用三层弹性机制:提供商熔断器、连接冷却和模型锁定,确保在提供商故障或配额耗尽时自动切换到替代提供商。
token 压缩会降低输出质量吗?
压缩引擎专门设计用于保留代码、URL 和 JSON 等结构化数据,但可能对自然语言进行压缩,可能会影响语气或细节。您可以调整压缩级别。
OmniRoute 支持哪些编码工具?
支持 33 种工具,包括 Claude Code、Codex CLI、Cursor、Cline、Continue、Aider 等,以及任何 OpenAI 兼容的工具。
在 GitHub 查看 ↗ 安装 ↓

对比同类 Agent

用同一套 FARS 评审,横向比较这个 Agent 所属的短名单。

相关 Agents