OmniRoute — 免费 AI 网关
通过一个端点接入 291 家 AI 提供商（90+ 免费），自动故障转移，内置压缩节省 15–95% token，兼容 Claude Code、Codex、Cursor 等工具。
证据显示有安全架构（AES-256-GCM加密、JWT、OAuth、防护栏），但未提供最小权限原则的明确说明；用户确认机制（如危险操作确认）未明确；数据流透明度有文档但未详细说明；敏感数据处理有加密和PII脱敏，但未说明默认配置；依赖安全有npm audit和漏洞检查，但未提供具体依赖版本；外部影响（如MITM、TLS指纹）有提及但未充分说明；回滚机制未明确；来源归属有作者和仓库信息，但发布者未验证。
自一致性：README和SECURITY.md描述一致，但未验证代码实现；依赖可用性：有package.json和CI，但未验证依赖是否可获取；失败消息：有错误处理文档，但未验证实际错误消息。
受众和场景：README明确面向开发者，提供多种使用场景；能力边界：有文档说明功能范围，但未明确限制；触发精度：有路由策略和模型选择，但未验证；环境适配：支持多种安装方式，但未验证。
信息架构：有README、docs目录，结构清晰；安装说明：有Quick Start和多种安装方法；命名稳定性：有版本号，但未验证API稳定性；示例和FAQ：有示例，但未提供FAQ；已知限制：未明确列出；许可证：MIT许可证；版本和变更日志：有版本号，但未提供变更日志；维护责任：有维护者信息，但未验证。
输出可用性：有API和CLI，但未验证输出格式；边际价值：提供免费AI网关，有独特功能；成本效益：声称节省成本，但未验证。
声明可追溯：README中有声明，但未提供证据；跨来源验证：未提供多个来源；事实与推断分离：有文档区分，但未验证。
- 发布者身份未验证，需谨慎对待。
- 安全声明（如加密、防护栏）未通过代码验证，仅基于文档。
- 依赖安全未提供具体版本，需自行审计。
- 外部影响（如MITM、TLS指纹）可能涉及法律和伦理问题，需注意。
这个 Agent 能做什么，适合哪些场景？
OmniRoute 是一款开源的本地 AI 网关，聚合了 291 家 AI 提供商（90+ 免费、40+ 永久免费），通过一个 OpenAI 兼容端点（/v1）统一接入 Claude Code、Codex、Cursor、Cline 等 33 种编码工具。它提供 19 种路由策略，包括自动组合和故障转移，可在配额用完时无缝切换供应商。内置 12 层可插拔压缩引擎（RTK、Caveman 等），平均可节省约 89% 的 token。支持 MCP（105 个工具）和 A2A 协议，并提供 CLI（80+ 命令）、Dashboard、桌面应用和 PWA。采用 MIT 许可证，100% 本地优先，无需账号即可零配置使用免费提供商。
OmniRoute 作为本地代理运行，接收来自兼容 OpenAI 的客户端的请求，并通过其智能路由器转发到配置的提供商。它提供了 Combo 概念（提供商链），支持优先级、权重、round-robin、成本优化、缓存优化等 19 种策略。默认的 auto 模型根据 12 个因素对连接的提供商进行实时评分，并在故障时自动回退。它通过 12 个引擎（如 RTK、Caveman）对请求和响应进行压缩，以节省 token。它还提供 MCP 服务器（stdio/HTTP/SSE）和 A2A 端点，允许 AI 代理管理路由、提供商、组合、缓存和压缩。CLI 提供 80+ 命令，用于管理提供商、密钥、组合、日志等。
- 希望对多个 LLM 提供商统一访问的开发者，避免管理多个 SDK 和 API 密钥。
- 使用 Claude Code 或 Codex 并希望在配额用尽时自动回退到免费或低成本模型的用户。
- 希望优化 token 消耗、降低调用成本的团队，通过压缩节省高达 95% 的 token 费用。
- 需要在多个提供商之间进行智能路由，根据延迟、成本或剩余配额选择最佳提供商的场景。
- 希望为编码助手提供本地优先、隐私保护且无需云端的网关的开发者。
这个 Agent 有哪些优点和局限？
- 聚合 291 家提供商，90+ 免费，零配置即可使用
- 19 种路由策略和自动故障转移，保证可靠性
- 12 层压缩引擎，平均节省约 89% 的 token
- 支持 MCP 和 A2A 协议，可被智能代理完全控制
- 本地优先，隐私保护，无需云依赖
- MIT 许可证，完全开源，可自行部署
- 免费提供商的速率限制和配额可能导致不确定性
- 初始配置可能复杂，尽管有零配置选项
- 大量功能可能导致学习曲线陡峭
- 一些高级功能（如 LLMLingua-2）可能增加延迟
- 依赖 Node.js 环境，且需要网络访问提供商
如何安装或部署这个 Agent？
通过 npm 全局安装：npm install -g omniroute。然后运行 omniroute 启动服务器，默认监听在 localhost:20128。也可以通过 Docker 安装：docker run -p 20128:20128 diegosouzapw/omniroute。支持 Windows、macOS、Linux，可通过 Electron 桌面应用或 Termux 在 Android 上运行。
如何使用这个 Agent？
安装后，将您的工具指向 http://localhost:20128/v1。对于零配置的用法，设置模型为 auto，OmniRoute 将自动选择可用的提供商。您可以使用 curl http://localhost:20128/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}' 进行测试。在支持的工具中配置 API base URL 为 http://localhost:20128/v1。使用 CLI 管理配置，例如 omniroute combo list 查看组合，或 omniroute setup 进行引导。
这个 Agent 与同类方案有什么区别？
与 OpenRouter、LiteLLM 等替代方案相比，OmniRoute 提供了更全面的功能集，包括 291 家提供商、19 种路由策略、内置压缩和 MCP/A2A 支持。它比 OpenRouter 更注重本地优先和免费提供商，而 LiteLLM 是更轻量级的库。