LiteLLM Agent Control Plane
用一个自托管控制平面创建并运行多种代理运行时。
- Star 数
- ★ 1.3k
- 最近更新
- 4 个月前
- License
- MIT
- 主语言
- Rust
- FA 评分
- 50/100 · 缺口较多
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 中 · 需要几步配置
- 开始前需要
- 典型场景
- 平台主管需要为开发团队提供一个界面,同时创建和运行 OpenCode、Deep Agents 与 Hermes 代理。
- 不适合
- 不想部署 Docker 与 Postgres 的个人开发者
- 需要现成 API 文档和 curl 示例的集成方
- 源码审查
- 50/100 · 缺口较多
这个 Agent 能做什么,适合哪些场景?
LiteLLM Agent Control Plane 是一个覆盖多种代理运行时的统一控制平面。它提供 Web/API 服务和界面,让开发者创建代理、选择工具与技能,并选择运行代理的运行时。该平台管理跨次运行的持久会话、定时 CRON 调度,以及跨会话记忆。Docker Compose 可启动 LiteLLM Agent Platform 服务、Postgres 数据库及模板运行时,并自动将本地运行时注册到界面。它适合希望集中管理 OpenCode、Deep Agents、Hermes、OpenClaw、Claude Managed Agents 或 Cursor Agents API 的团队,而非只使用单一运行时的团队。
启动后,LiteLLM Agent Platform 的 Web/API 服务在 localhost:4000 提供界面与 API。开发者在 UI 中创建代理,选择要连接的工具和技能,再选择运行代理的运行时。docker compose --profile opencode up 会启动平台、Postgres 和 OpenCode 模板运行时,并自动注册 local-opencode;deepagents、hermes 与 openclaw profile 分别注册 local-deepagents、local-hermes 和 local-openclaw。平台保存代理会话,可按 CRON 调度运行,并让代理在会话之间保留上下文;使用托管模型提供商前,需要在 Settings 中添加提供商凭据。
- 平台主管需要为开发团队提供一个界面,同时创建和运行 OpenCode、Deep Agents 与 Hermes 代理。
- 使用 OpenCode 模板运行时的工程师希望通过 docker compose --profile opencode up 快速得到本地可用的平台和已注册运行时。
- 需要让同一代理跨多次运行延续上下文的团队,可使用平台的持久会话和记忆能力。
- 需要定期执行代理工作的团队,可为代理配置 CRON 调度。
- 不希望开发者分别进入 Bedrock 或 Anthropic 控制台的组织,可将代理创建和运行集中在该控制平面。
如何安装或部署这个 Agent?
前提是安装 Docker Desktop。在仓库目录运行:docker compose --profile opencode up。打开 http://localhost:4000,并使用主密钥登录;默认值为 sk-local。该命令会启动平台 Web/API 服务、Postgres、OpenCode 模板运行时,并自动注册 local-opencode。若只需基础平台栈,运行:docker compose up。
如何使用这个 Agent?
登录 http://localhost:4000 后,在 UI 中创建代理,选择要连接的工具和技能,然后选择一个运行时来运行它。可用的模板 profile 包括:docker compose --profile deepagents up、docker compose --profile hermes up、docker compose --profile openclaw up;也可组合使用 docker compose --profile opencode --profile deepagents up。运行托管模型提供商上的代理前,先在 Settings 添加提供商凭据。
这个 Agent 有哪些优点和局限?
- 以单一 Web/API 服务统一创建和运行多个已列出的代理运行时。
- Docker Compose profile 会在服务健康后自动向平台 API 注册本地模板运行时。
- 内置持久会话、跨会话记忆和 CRON 调度,覆盖长期与定期运行场景。
- 开发者可在平台内操作,文档明确说明不必直接访问 Bedrock 或 Anthropic 控制台。
- 本地快速启动明确依赖 Docker Desktop,且会同时运行 Postgres 与平台服务。
- 对托管模型提供商运行代理前,必须在 Settings 配置提供商凭据。
- 文档未提供可复制的 API endpoint、请求体或 curl 调用示例。
- 除列出的模板 profile 和运行时外,其他运行时的接入步骤没有说明。
这个 Agent 与同类方案有什么区别?
它不是替代某一个已列出的运行时,而是在其上提供统一创建与运行入口:OpenCode、OpenClaw、Deep Agents、Hermes Agent、Claude Managed Agents 与 Cursor Agents API 均被列为支持对象。
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| LiteLLM Agent Control Plane 当前 | 50 · 缺口较多 | 自托管服务免费 + 模型费 | ★ 1.3k | 4 个月前 | Rust | — |
| MonoCode | 71 · 存在缺口 | 桌面应用免费 | ★ 3.8k | 今天 | Rust | Codex · Claude Code |
| Claude-Mem | 64 · 存在缺口 | 命令行工具免费版 + 付费版 | ★ 115k | 今天 | TypeScript | Codex · Claude Code |
| EOC — Everything OpenAI Codex 工作流操作系统 | 64 · 存在缺口 | Agent 插件 / 技能免费 + 模型费 | ★ 77 | 5 个月前 | JavaScript | Codex |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
文档说明了网关主密钥与上游凭证分离、凭证加密存储,并建议团队使用受预算、模型和到期时间约束的虚拟密钥;桥接服务对非健康请求检查运行时密钥,OpenClaw 代码还列出持久化 MCP 配置中的敏感字段。扣分原因:本地默认密钥为 sk-local,未配置主密钥时认证关闭;运行时密钥未设置时只要求请求带有任意 x-api-key,且样本没有呈现权限细分、用户确认、完整数据流或恢复流程。依赖清单没有可据以判断已知漏洞或缓解措施的扫描证据。来源归属仅有仓库名及许可证版权声明,发布者身份仍未知。
Quick Start 与 quickstart 对本地启动和运行时注册的描述大体一致,多个桥接服务也提供健康端点;代码对无效 OpenClaw 配置、缺少运行时密钥及上游请求错误提供可读错误。扣分原因:README 的支持运行时列表和 Quick Start 配置文件示例并不完全一致,且样本不足以确认所有后端行为或依赖在目标环境可用;未展示依赖可用性承诺。
文档覆盖个人本地部署、团队密钥、多个运行时、工具与技能选择,并指向 API、渠道和运行时指南。扣分原因:对适用规模、禁止场景、各运行时功能差异和何时触发计划任务等边界说明有限;环境要求主要是 Docker Desktop,托管部署和其他运行环境信息未在样本中展开。
仓库提供 Quick Start、认证文档、运行时引导和贡献文档入口,安装步骤包含前置条件与 Compose 命令;Cargo.toml 和 LICENSE 明确标注 MIT,名称在样本中基本稳定。扣分原因:未提供已知限制、FAQ、版本发布记录或清晰的维护责任与支持时限;技能文档是集成开发清单,不足以补齐这些面向使用者的信息。
统一 API、会话持久化、计划任务、记忆以及统一 UI 是明确的产品用途,界面步骤和本地启动命令便于开始使用。扣分原因:样本没有量化节省的工作、成本、资源开销或不同运行时的取舍,因此效益只能部分支持;输出格式和跨运行时结果一致性的细节也有限。
本地启动、默认密钥、运行时注册及认证行为在 README 与 quickstart/auth 文档间有部分相互印证,若干安全说明可对应到桥接代码。扣分原因:产品范围与运行时名单并非完全一致,技能集成说明无法证明所有已支持能力;文档中的产品主张没有系统地标为事实、推断或待验证事项。
- 本地 Compose 默认使用 sk-local;生产或团队部署前,应配置强主密钥并使用虚拟密钥及最小必要访问权限。
- 样本桥接代码在未设置 RUNTIME_API_KEY 时仅要求存在 x-api-key 请求头;不要将此配置视为有效的身份验证。
- 本评估仅依据所给静态样本;未执行代码,也未独立核验未提供的文件、依赖状态或发布者身份。
常见问题
启动平台需要什么?
默认如何登录本地界面?
能否直接使用托管模型提供商?
平台是否提供会话持续性?
费用如何计算?
谢谢反馈,我们会据此改进页面。