Kitaru

把生产 Agent 的 trace 变成可重放的评测:改完提示词、模型或代码后,先跑一遍历史会话再上线。

Star 数
★ 316
最近更新
1 天前
License
Apache-2.0
主语言
Python

30 秒速览

运行形态
命令行工具自托管服务MCP 服务器
可在哪里用
通用 · 跨平台Codex · Claude Code
费用
有免费版,另有付费云服务
上手难度
中 · 需要几步配置
开始前需要
uvDocker 或 Podman(用于 kitaru login --local)PythonShell / 命令行网络访问本地文件系统MCP Server
典型场景
已在生产运行 PydanticAI、LangGraph 或 OpenAI Agents SDK Agent 的团队,想在下一次换模型或改提示词前用历史流量做回归验证。
不适合
  • 只想读日志、不需要重放执行 Agent 代码的团队
  • 完全不能运行 Docker 或 Podman、也不想使用托管云的离线环境
  • 要求 Agent 运行在厂商托管执行环境、不接受本地 worker 的团队

这个 Agent 能做什么,适合哪些场景?

Kitaru 是 ZenML 团队开源(Apache-2.0)的 Agent 重放式评测系统,核心理念是「trace 不只是可读,而是可运行」。它把生产运行记录或从 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix、MLflow 导入的 trace 转成 session,重放时真正再次执行你的 Agent 代码,而工具调用由录制内容应答,避免重复退款等副作用。评测从人工判断开始:编码助手会审查关键 session、就证据向你提问,并把结论锚定到具体 trace 位置,进而校准评估器、冻结 cohort,并在上线前对改动做实验。系统由一个自托管服务端(FastAPI + Postgres,提供 Docker 镜像与 Helm chart)加本地 worker 组成,用户代码只在你的虚拟环境、凭据和网络中执行。SDK 覆盖 Python 与 TypeScript,适配器包括 PydanticAI、LangGraph、OpenAI Agents SDK、Claude Agent SDK、Mastra 与 Vercel AI SDK。

Kitaru 通过记录或导入把一次 Agent 运行变成 session:可以用一个 wrapper 接入生产(record adapter),也可以从 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix、MLflow 导入已有 trace,或按文档编写自定义 importer。重放阶段,真实的 Agent 代码在本地 worker 上重新执行,工具调用由录制结果应答,因此未改动的重放给出忠实基线,fork 的重放则隔离出单次改动的影响。内建确定性评估器先扫描 session,编码助手再就关键案例与你对谈,把判断固定到精确的 trace 位置,据此起草评估器;cohort 冻结案例人群,experiment 在发布前对 cohort 重跑改动并报告改进与回归。命令层面由 kitaru login(托管云或 --local 启动 Docker/Podman 中的本地 FastAPI + Postgres 服务端)与 kitaru setup(安装 skills 到 ~/.agents/skills 并向 Claude Code、Codex、Cursor、Windsurf 注册 kitaru-mcp)驱动,MCP 服务端通过标准 JSON 配置供其他 MCP 客户端接入。

  1. 已在生产运行 PydanticAI、LangGraph 或 OpenAI Agents SDK Agent 的团队,想在下一次换模型或改提示词前用历史流量做回归验证。
  2. 使用 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix 或 MLflow 存 trace 的团队,希望把这些只读记录直接变成可执行的重放用例。
  3. 需要在 CI 中构建回归套件、用生产流量对新版本做门禁的工程团队。
  4. 希望在 Claude Code、Codex、Cursor 或 Windsurf 里由编码助手驱动调查流程、而不手写评估脚本的开发者。
  5. 带外部副作用的 Agent(如票务退款)维护者,需要工具调用按录制应答、避免重放时重复执行真实操作。
  6. 因合规或数据驻留要求必须自托管、trace 不外流的组织。

如何安装或部署这个 Agent?

在 Agent 所在仓库的终端中运行一行安装脚本,它会用 uv 把 Kitaru 加入该项目环境、安装编码智能体 skills,并向 Claude Code、Codex、Cursor、Windsurf 注册 MCP 服务端:

curl -fsSL https://kitaru.ai/install | bash

如果已在 Claude Code、Codex 或 Cursor 中打开仓库,也可以直接把下面这段交给助手:

Set up Kitaru in this repository by following https://kitaru.ai/install.md. Use the one-line installer and tell me what it did.

手动安装时,先把包加入项目环境,然后二选一登录:

uv add "kitaru[cli,worker,mcp]" kitaru-pydantic-ai
uv run kitaru login          # 托管云,14 天试用,无需信用卡
uv run kitaru login --local  # 用 Docker 或 Podman 在本地启动服务端
uv run kitaru login <your-team-url>

完成后可随时重跑 kitaru setup 为后来安装的编辑器补装:

uv run kitaru setup            # 或: kitaru setup --mode read-only, --no-skills, --no-mcp

其他 MCP 客户端需手动粘贴:

{
  "mcpServers": {
    "kitaru": {
      "command": "uv",
      "args": ["run", "kitaru-mcp", "--server", "http://localhost:8000", "--mode", "standard"]
    }
  }
}

如何使用这个 Agent?

先用仓库自带的示例 Agent 体验完整闭环,它已附带签入的 Langfuse trace:

git clone https://github.com/zenml-io/kitaru.git
cd kitaru/examples/python/pydantic_ai_ticket_resolver

在该目录用 Claude Code、Codex 或 Cursor 打开,然后让助手跑引导式教程:

Use kitaru-guided-tour to walk me through Kitaru on the PydanticAI returns agent example. I am new; explain each step as we go, and ask before anything paid or live.

换成你自己的 Agent 时,让助手执行调查流程:

Use kitaru-investigation to investigate this agent and help me test one meaningful improvement. Show me the recorded evidence before asking for a judgment, and ask before creating resources or starting paid replay.

助手会扫描 session、就重点案例向你提问、起草评估器、运行 experiment,并汇报哪些指标提升、哪些出现回归;判断由你做出。接入已有生产 Agent 时,可用适配器录制,或从 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix、MLflow 导入 trace。

这个 Agent 有哪些优点和局限?

优点
  • 重放会真正重新执行 Agent 代码,工具调用按录制应答,既有真实基线也能隔离单次改动的影响。
  • trace 来源开放:内建 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix、MLflow 导入,也支持自定义 importer。
  • 自托管边界清晰:用户代码只在你的 worker 上跑,不需要把 trace 交给第三方,服务端不执行用户代码。
  • Python 与 TypeScript 共用同一服务端,并官方适配 PydanticAI、LangGraph、OpenAI Agents SDK、Claude Agent SDK、Mastra、Vercel AI SDK。
  • 以 MCP 与 skills 的方式让 Claude Code、Codex、Cursor、Windsurf 直接驱动调查与实验,而非手写评估脚本。
局限
  • 重放 worker 必须与 Agent 的依赖共存于同一项目环境,安装需要 uv 且不能脱离原仓库。
  • 本地服务端依赖 Docker 或 Podman;不用容器就得改用托管云账号(14 天试用后为付费路径)。
  • 重放会真实调用模型,产生 API 费用与执行时间,README 也明确提示动手前要询问是否付费或实跑。
  • 评估器先依赖人工判断与编码助手参与,需要投入人来标注,难以完全自动化冷启动。
  • 示例与教程目前集中在 PydanticAI 票务示例,其他框架的可复现范例较少。

这个 Agent 与同类方案有什么区别?

README 将 Kitaru 与单纯的 trace 查看/存储类工具相对照:像 Langfuse、LangSmith、Braintrust、Logfire、Arize Phoenix、MLflow 这些工具保存的是可读但不可运行的记录,Kitaru 则把它们的记录导入后重放执行,并明确把你的 trace 存储保留为 system of record。

与相关度最高的同类 agent 并排比较关键指标。

Agent 源码审查 形态 / 费用 Star 最近更新 主语言 完整支持的平台
Kitaru 当前 56 · 缺口较多 命令行工具免费版 + 付费版 ★ 316 1 天前 Python Codex · Claude Code
Code Puppy 57 · 缺口较多 命令行工具免费 + 模型费 ★ 875 今天 Python Codex · OpenAI API · Claude API
Synapse AI 多智能体编排平台 70 · 存在缺口 命令行工具免费 + 模型费 ★ 336 1 天前 Python OpenAI API · Claude API
Observal —— 内部 AI 组件的控制平面与注册表 57 · 缺口较多 自托管服务免费 + 模型费 ★ 4.5k 今天 Python Codex · Claude Code

FollowAgents 如何评估这个 Agent?

FollowAgents 源码审查 · FARS-2.1
缺口较多
56/ 100 五分制 2.8 / 5
信任安全 17/29
可靠稳定 8/14
适用触发 10/18
规范维护 10/18
有效结果 7/13
证据核验 4/8
查看各维度的扣分理由
信任安全17 / 29 · 2.9/5

README 明确说明自托管、无用户代码在服务器执行、回放/导入/评估在本地 worker 运行,MCP 提供有界操作并支持 --mode read-only,安装器与技能提示要求“付费或实时操作前先询问”,这些支持最小权限与用户确认(各 2)。数据流透明度有自托管与 trace 存储说明(2)。敏感数据处理有测试验证导出脱敏字段与邮箱白名单(2)。依赖安全有 pip-audit CI、锁定与 3 天冷却、certifi 例外说明(2)。外部副作用有“不会重复退款”的 mock 与回放设计(2)。回滚仅靠回放/分叉概念,未见明确撤销或恢复流程(1)。来源归属仅 README 提及 ZenML 团队,发布者未验证,无 NOTICE/版权归属细节(1)。

可靠稳定8 / 14 · 2.9/5

pyproject 与 package.json 锁定依赖、CI 多版本矩阵、import-linter 分层契约,内部一致性较好(2)。依赖可用性有 uv.lock、pnpm lockfile 与冻结安装(2)。失败信息仅在示例评估器中有少量 ValueError,未见系统性错误信息设计(1)。

适用触发10 / 18 · 2.8/5

受众与场景清晰(开发者、Python/TypeScript、多框架适配器)(2)。能力边界有自托管、无 SaaS 控制面、MCP 只读模式说明(2)。触发精度方面技能与 MCP 触发依赖外部仓库 kitaru-skills,本仓库内证据薄弱(1)。环境适配有 Docker/Helm、多 Python/Node 版本(2)。

规范维护10 / 18 · 2.8/5

信息架构清晰,README 分节与文档链接完整(2)。安装说明详尽,含一行安装与手动步骤(2)。命名稳定性因 0.x 早期版本与 develop 分支、版本号 0.27.2+dev 与 SECURITY 中 0.1.x 不一致,扣分(1)。示例与 FAQ 有 PydanticAI 示例与引导(2)。已知限制仅零散提及早期开发,无专门章节(1)。许可证为完整 Apache-2.0 文本(3)。版本与变更日志仅 CI 有 changelog-check,未见实际 CHANGELOG 内容(1)。维护责任仅指向 ZenML 团队与支持邮箱,发布者未验证(1)。

有效结果7 / 13 · 2.7/5

输出可用性有评估结果结构与示例评估器(2)。边际价值在于回放式评估,定位清晰(2)。成本效益涉及云试用与本地 Docker,但未量化成本,扣分(1)。

证据核验4 / 8 · 2.5/5

声明可追溯性有文档链接与测试,但多为 README 断言,缺少逐条证据映射(1)。跨源佐证有测试、CI、pyproject 相互印证(2)。事实与推断分离方面 README 营销性表述较多,未明确区分(1)。

风险与缓解建议
  • 发布者身份未经 FollowAgents 验证,维护责任与更新路径仅由 README 指向 ZenML 团队,需自行核实。
  • 版本号 0.27.2+dev 与 SECURITY.md 中仅支持 0.1.x 不一致,且处于 0.x 早期阶段,API 可能不稳定。
  • 技能与 MCP 触发依赖外部仓库 kitaru-skills,本仓库内证据不足,实际行为需另行验证。
  • 回滚与撤销流程未在文件中明确说明,回放/分叉概念不等于可恢复操作。
  • 本评估为静态源码审查,未执行任何代码或测试,置信度低。
证据充分度:低 评估于 2026年10月29日 审查版本 05a08e5cf90c
查看完整评分方法 →

常见问题

Kitaru 会不会替换掉我现在用的 Langfuse 或 LangSmith?
不会。README 明确说你的 trace store 仍是 system of record,Kitaru 只是把这些 trace 导入为 session 用于重放和评测,也支持用一个 wrapper 直接录制生产运行。
重放时会不会把真实操作又执行一遍?
不会。重放会重新执行你的 Agent 代码,但工具调用由录制内容应答,README 以「不会有卡被退款两次」为例说明这一点。
我的代码和数据会跑到厂商服务器上吗?
服务端只运行在你自己的基础设施上(Docker 镜像、Helm chart),不在服务端执行用户代码;重放、导入和评估都跑在你环境里的 worker,使用你的虚拟环境、凭据和网络。
用之前必须付费吗?
软件本身 Apache-2.0 开源,kitaru login --local 用 Docker 或 Podman 起本地服务端即可免费开始;kitaru login 走托管云提供 14 天试用,无需信用卡。重放会调用你选的模型,相应费用由你承担。
必须使用 Claude Code、Codex 或 Cursor 这类助手吗?
不是硬性要求,但 README 把编码助手 + skills + MCP 服务端描述为预期使用方式;kitaru setup --no-skills、--no-mcp 等选项可裁剪,其他 MCP 客户端也能按给定 JSON 接入。
在 GitHub 查看 ↗ 安装 ↓

对比同类 Agent

用同一套 FARS 评审,横向比较这个 Agent 所属的短名单。

相关 Agents