OmniRoute — 免费 AI 网关
通过一个端点接入 291 家 AI 提供商(90+ 免费),自动故障转移,内置压缩节省 15–95% token,兼容 Claude Code、Codex、Cursor 等工具。
- Star 数
- ★ 78k
- 最近更新
- 今天
- License
- MIT
- 主语言
- TypeScript
- FA 评分
- 60/100 · 存在缺口
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台Codex · Claude Code · OpenAI API · Claude API
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 低 · 几分钟可跑通
- 开始前需要
- 典型场景
- 希望对多个 LLM 提供商统一访问的开发者,避免管理多个 SDK 和 API 密钥。
- 不适合
- 不愿把提示词发送给第三方 AI 提供商的用户
- 需要稳定生产级免费额度、无法接受免费层限流波动的团队
- 源码审查
- 60/100 · 存在缺口
这个 Agent 能做什么,适合哪些场景?
OmniRoute 是一款开源的本地 AI 网关,聚合了 291 家 AI 提供商(90+ 免费、40+ 永久免费),通过一个 OpenAI 兼容端点(/v1)统一接入 Claude Code、Codex、Cursor、Cline 等 33 种编码工具。它提供 19 种路由策略,包括自动组合和故障转移,可在配额用完时无缝切换供应商。内置 12 层可插拔压缩引擎(RTK、Caveman 等),平均可节省约 89% 的 token。支持 MCP(105 个工具)和 A2A 协议,并提供 CLI(80+ 命令)、Dashboard、桌面应用和 PWA。采用 MIT 许可证,100% 本地优先,无需账号即可零配置使用免费提供商。
OmniRoute 作为本地代理运行,接收来自兼容 OpenAI 的客户端的请求,并通过其智能路由器转发到配置的提供商。它提供了 Combo 概念(提供商链),支持优先级、权重、round-robin、成本优化、缓存优化等 19 种策略。默认的 auto 模型根据 12 个因素对连接的提供商进行实时评分,并在故障时自动回退。它通过 12 个引擎(如 RTK、Caveman)对请求和响应进行压缩,以节省 token。它还提供 MCP 服务器(stdio/HTTP/SSE)和 A2A 端点,允许 AI 代理管理路由、提供商、组合、缓存和压缩。CLI 提供 80+ 命令,用于管理提供商、密钥、组合、日志等。
- 希望对多个 LLM 提供商统一访问的开发者,避免管理多个 SDK 和 API 密钥。
- 使用 Claude Code 或 Codex 并希望在配额用尽时自动回退到免费或低成本模型的用户。
- 希望优化 token 消耗、降低调用成本的团队,通过压缩节省高达 95% 的 token 费用。
- 需要在多个提供商之间进行智能路由,根据延迟、成本或剩余配额选择最佳提供商的场景。
- 希望为编码助手提供本地优先、隐私保护且无需云端的网关的开发者。
如何安装或部署这个 Agent?
通过 npm 全局安装:npm install -g omniroute。然后运行 omniroute 启动服务器,默认监听在 localhost:20128。也可以通过 Docker 安装:docker run -p 20128:20128 diegosouzapw/omniroute。支持 Windows、macOS、Linux,可通过 Electron 桌面应用或 Termux 在 Android 上运行。
如何使用这个 Agent?
安装后,将您的工具指向 http://localhost:20128/v1。对于零配置的用法,设置模型为 auto,OmniRoute 将自动选择可用的提供商。您可以使用 curl http://localhost:20128/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}' 进行测试。在支持的工具中配置 API base URL 为 http://localhost:20128/v1。使用 CLI 管理配置,例如 omniroute combo list 查看组合,或 omniroute setup 进行引导。
这个 Agent 有哪些优点和局限?
- 聚合 291 家提供商,90+ 免费,零配置即可使用
- 19 种路由策略和自动故障转移,保证可靠性
- 12 层压缩引擎,平均节省约 89% 的 token
- 支持 MCP 和 A2A 协议,可被智能代理完全控制
- 本地优先,隐私保护,无需云依赖
- MIT 许可证,完全开源,可自行部署
- 免费提供商的速率限制和配额可能导致不确定性
- 初始配置可能复杂,尽管有零配置选项
- 大量功能可能导致学习曲线陡峭
- 一些高级功能(如 LLMLingua-2)可能增加延迟
- 依赖 Node.js 环境,且需要网络访问提供商
这个 Agent 与同类方案有什么区别?
与 OpenRouter、LiteLLM 等替代方案相比,OmniRoute 提供了更全面的功能集,包括 291 家提供商、19 种路由策略、内置压缩和 MCP/A2A 支持。它比 OpenRouter 更注重本地优先和免费提供商,而 LiteLLM 是更轻量级的库。
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| OmniRoute — 免费 AI 网关 当前 | 60 · 存在缺口 | 命令行工具免费 + 模型费 | ★ 78k | 今天 | TypeScript | Codex · Claude Code · OpenAI API · Claude API |
| OpenSquilla — 高效Token的AI代理 | 51 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 7.1k | 1 天前 | Python | OpenAI API · Claude API |
| ClawCodex | 51 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 911 | 今天 | TypeScript | ChatGPT · OpenAI API · Claude API |
| Code Puppy | 57 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 869 | 今天 | Python | Codex · OpenAI API · Claude API |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
证据显示有安全架构(AES-256-GCM加密、JWT、OAuth、防护栏),但未提供最小权限原则的明确说明;用户确认机制(如危险操作确认)未明确;数据流透明度有文档但未详细说明;敏感数据处理有加密和PII脱敏,但未说明默认配置;依赖安全有npm audit和漏洞检查,但未提供具体依赖版本;外部影响(如MITM、TLS指纹)有提及但未充分说明;回滚机制未明确;来源归属有作者和仓库信息,但发布者未验证。
自一致性:README和SECURITY.md描述一致,但未验证代码实现;依赖可用性:有package.json和CI,但未验证依赖是否可获取;失败消息:有错误处理文档,但未验证实际错误消息。
受众和场景:README明确面向开发者,提供多种使用场景;能力边界:有文档说明功能范围,但未明确限制;触发精度:有路由策略和模型选择,但未验证;环境适配:支持多种安装方式,但未验证。
信息架构:有README、docs目录,结构清晰;安装说明:有Quick Start和多种安装方法;命名稳定性:有版本号,但未验证API稳定性;示例和FAQ:有示例,但未提供FAQ;已知限制:未明确列出;许可证:MIT许可证;版本和变更日志:有版本号,但未提供变更日志;维护责任:有维护者信息,但未验证。
输出可用性:有API和CLI,但未验证输出格式;边际价值:提供免费AI网关,有独特功能;成本效益:声称节省成本,但未验证。
声明可追溯:README中有声明,但未提供证据;跨来源验证:未提供多个来源;事实与推断分离:有文档区分,但未验证。
- 发布者身份未验证,需谨慎对待。
- 安全声明(如加密、防护栏)未通过代码验证,仅基于文档。
- 依赖安全未提供具体版本,需自行审计。
- 外部影响(如MITM、TLS指纹)可能涉及法律和伦理问题,需注意。
最近版本
来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。
-
发布说明摘录
OmniRoute v3.8.51 2,022 documented changes — 235 features, 1,454 fixes and 333 maintenance entries from 1,973 commits in the cycle, with 301 external contributors. Thank you all. 📄 Complete release notes (every entry, full description and credit): attached below as CHANGELOG-v3.8.51.md, and in [CHANGELOG.md → [3.8.51]](https://github.com/diegosouzapw/OmniRoute/blob/main/CHANGELOG.md). GitHub caps a release body at 125,000 characters, so the 1,454 fixes and 333 maintenance entries live there in full. 📊 Release by the numbers | | | | --- | ---: | …在 GitHub 查看 ↗ -
发布说明摘录
📊 Release by the numbers | | | | --- | ---: | | 👥 People who contributed | 248 | | 📝 Commits in the cycle | 1,714 | | 🔀 Pull requests referenced | 1,666 | | 📋 Changelog entries | 1,182 | | 🙌 Contributors credited in entries | 256 | | 🤖 Automated dependency commits | 22 | Entries by type | Type | Count | | --- | ---: | | 🐛 Fixes | 779 | | ✨ Features | 169 | | 📚 Docs | 29 | | 🧹 Chore | 27 | | 🧪 Tests | 15 | | ♻️ Refactor | 5 | | ⚡ Performance | 3 | | providers | 2 | | 🔒 Security | 2 | | ⚙️ CI | 2 | | deps | 2 | | maint | 2 | 🏆 Top 25 contributors this cycle …在 GitHub 查看 ↗ -
radar-export-latest Radar catalog export (rolling)
发布说明摘录
Export estável do catálogo OmniRoute para o Radar. Atualizado automaticamente; NÃO é um release de versão do produto.在 GitHub 查看 ↗