LiteLLM Agent Control Plane
用一个自托管控制平面创建并运行多种代理运行时。
- Star 数
- ★ 1.3k
- 最近更新
- 3 个月前
- License
- MIT
- 主语言
- Rust
- FA 评分
- 29/100 · 缺口较多
30 秒速览
- 可在哪里用
- 通用 · 跨平台
- 开始前需要
- 典型场景
- 平台主管需要为开发团队提供一个界面,同时创建和运行 OpenCode、Deep Agents 与 Hermes 代理。
- 主要局限
- 本地快速启动明确依赖 Docker Desktop,且会同时运行 Postgres 与平台服务。
这个 Agent 能做什么,适合哪些场景?
LiteLLM Agent Control Plane 是一个覆盖多种代理运行时的统一控制平面。它提供 Web/API 服务和界面,让开发者创建代理、选择工具与技能,并选择运行代理的运行时。该平台管理跨次运行的持久会话、定时 CRON 调度,以及跨会话记忆。Docker Compose 可启动 LiteLLM Agent Platform 服务、Postgres 数据库及模板运行时,并自动将本地运行时注册到界面。它适合希望集中管理 OpenCode、Deep Agents、Hermes、OpenClaw、Claude Managed Agents 或 Cursor Agents API 的团队,而非只使用单一运行时的团队。
启动后,LiteLLM Agent Platform 的 Web/API 服务在 localhost:4000 提供界面与 API。开发者在 UI 中创建代理,选择要连接的工具和技能,再选择运行代理的运行时。docker compose --profile opencode up 会启动平台、Postgres 和 OpenCode 模板运行时,并自动注册 local-opencode;deepagents、hermes 与 openclaw profile 分别注册 local-deepagents、local-hermes 和 local-openclaw。平台保存代理会话,可按 CRON 调度运行,并让代理在会话之间保留上下文;使用托管模型提供商前,需要在 Settings 中添加提供商凭据。
- 平台主管需要为开发团队提供一个界面,同时创建和运行 OpenCode、Deep Agents 与 Hermes 代理。
- 使用 OpenCode 模板运行时的工程师希望通过 docker compose --profile opencode up 快速得到本地可用的平台和已注册运行时。
- 需要让同一代理跨多次运行延续上下文的团队,可使用平台的持久会话和记忆能力。
- 需要定期执行代理工作的团队,可为代理配置 CRON 调度。
- 不希望开发者分别进入 Bedrock 或 Anthropic 控制台的组织,可将代理创建和运行集中在该控制平面。
如何安装或部署这个 Agent?
前提是安装 Docker Desktop。在仓库目录运行:docker compose --profile opencode up。打开 http://localhost:4000,并使用主密钥登录;默认值为 sk-local。该命令会启动平台 Web/API 服务、Postgres、OpenCode 模板运行时,并自动注册 local-opencode。若只需基础平台栈,运行:docker compose up。
如何使用这个 Agent?
登录 http://localhost:4000 后,在 UI 中创建代理,选择要连接的工具和技能,然后选择一个运行时来运行它。可用的模板 profile 包括:docker compose --profile deepagents up、docker compose --profile hermes up、docker compose --profile openclaw up;也可组合使用 docker compose --profile opencode --profile deepagents up。运行托管模型提供商上的代理前,先在 Settings 添加提供商凭据。
这个 Agent 有哪些优点和局限?
- 以单一 Web/API 服务统一创建和运行多个已列出的代理运行时。
- Docker Compose profile 会在服务健康后自动向平台 API 注册本地模板运行时。
- 内置持久会话、跨会话记忆和 CRON 调度,覆盖长期与定期运行场景。
- 开发者可在平台内操作,文档明确说明不必直接访问 Bedrock 或 Anthropic 控制台。
- 本地快速启动明确依赖 Docker Desktop,且会同时运行 Postgres 与平台服务。
- 对托管模型提供商运行代理前,必须在 Settings 配置提供商凭据。
- 文档未提供可复制的 API endpoint、请求体或 curl 调用示例。
- 除列出的模板 profile 和运行时外,其他运行时的接入步骤没有说明。
这个 Agent 与同类方案有什么区别?
它不是替代某一个已列出的运行时,而是在其上提供统一创建与运行入口:OpenCode、OpenClaw、Deep Agents、Hermes Agent、Claude Managed Agents 与 Cursor Agents API 均被列为支持对象。
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|
| LiteLLM Agent Control Plane 当前 | 29 · 缺口较多 | ★ 1.3k | 3 个月前 | Rust | — |
| EOC — Everything OpenAI Codex 工作流操作系统 | 75 · 表现良好 | ★ 91 | 1 个月前 | JavaScript | Codex |
| Claude-Mem | 73 · 存在缺口 | ★ 95k | 今天 | TypeScript | Codex · Claude Code |
| MonoCode | 56 · 缺口较多 | ★ 1.1k | 1 天前 | TypeScript | Codex · Claude Code |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
证据显示使用crypto_secretbox加密敏感数据,但未提供密钥管理细节;依赖锁定(--locked)和CI检查提供一定依赖安全;未发现用户确认机制、数据流透明、外部影响控制、回滚或来源归属。扣分:缺少用户确认、数据流透明、外部影响控制、回滚和来源归属。
README与Cargo.toml一致,CI包含测试,但未提供失败消息设计;依赖版本固定但未提供可用性保证。扣分:失败消息缺失。
README明确目标用户和场景,支持多种运行时;能力边界部分描述,但触发精度和部署环境要求(Docker)未充分说明。扣分:触发精度和环境适配不足。
信息架构清晰,安装说明详细,许可证明确;但缺少已知限制、版本变更日志,命名稳定性未明确。扣分:缺少已知限制和变更日志。
输出可用性未详细说明,边际价值明确(统一API),成本效益未量化。扣分:输出可用性和成本效益证据不足。
README中的声明未提供可追溯证据,无交叉来源验证,事实与推断未分离。扣分:缺乏可追溯性和交叉验证。
- 源码中未见:执行前用户确认开启或自行加上执行前确认;先在沙箱或测试环境跑通,确认行为后再接入真实数据。
- 源码中未见:数据流向说明运行时观察它连接了哪些外部服务(代理或防火墙日志);弄清数据去向之前不要输入敏感数据。
- 源码中未见:外部影响披露先弄清它会写入、发送或修改哪些外部系统,用测试账号或测试仓库验证后再接入正式环境。
- 源码中未见:回滚或恢复路径运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。
- 源码中未见:来源归属可核验从官方仓库或包源安装,核对发布者和仓库地址,避免同名仿冒包。
- 未提供用户确认机制,代理可能自动执行操作。
- 数据流不透明,敏感数据如何传输和存储未说明。
- 缺少回滚机制,操作失败后难以恢复。
- 依赖安全仅依赖锁定和CI,未提供漏洞扫描。
- 发布者身份未验证,来源归属不明确。