Langtrace
为 LLM 应用提供基于 OpenTelemetry 的端到端追踪、评估与指标分析。
- Star 数
- ★ 1.2k
- 最近更新
- 11 个月前
- License
- AGPL-3.0
- 主语言
- TypeScript
- FA 评分
- 42/100 · 缺口较多
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台OpenAI API · Claude API
- 费用
- 有免费版,另有付费云服务
- 上手难度
- 中 · 需要几步配置
- 开始前需要
- 典型场景
- 使用 OpenAI、Anthropic 或 Azure OpenAI 的应用团队,需要查看模型调用的追踪、延迟、成本和使用情况。
- 不适合
- 需要完全离线、数据不出本地的团队(云端版会把追踪数据发到厂商服务器)
- 只用 TypeScript 且依赖 LangChain、LangGraph、LiteLLM 或 CrewAI 的项目
- 不愿维护 Postgres 与 ClickHouse 等数据库基础设施的团队
这个 Agent 能做什么,适合哪些场景?
Langtrace 是面向 LLM 应用的开源可观测性系统,可采集、调试和分析追踪与指标。应用通过 TypeScript 或 Python SDK 初始化后,可自动捕获已支持的 LLM 提供商、框架和向量数据库调用。系统提供实时监控、延迟、成本和使用模式分析,以及追踪工作流的调试能力。托管模式以项目和 API key 接入;自托管部署由 Next.js 应用、Postgres 和 ClickHouse 组成。自托管 OSS 客户端不收集遥测数据,数据不会离开部署者的服务器。
在 JavaScript/TypeScript 应用中安装 @langtrase/typescript-sdk 并调用 Langtrace.init({ api_key: '<your_api_key>' });在 Python 应用中安装 langtrace-python-sdk 并调用 langtrace.init(api_key='<your_api_key>')。SDK 必须在 TypeScript 中先于 LLM 模块导入,并自动捕获支持的 LLM API、框架和向量数据库调用,生成符合 OpenTelemetry 的追踪。Langtrace 将这些追踪及相关指标用于实时监控、延迟、成本和使用分析,并提供可视化与调试工作流。自托管时,使用 docker compose up 启动 Next.js、Postgres 与 ClickHouse 服务,界面位于 http://localhost:3000。
- 使用 OpenAI、Anthropic 或 Azure OpenAI 的应用团队,需要查看模型调用的追踪、延迟、成本和使用情况。
- 以 Python 构建 LangChain、LangGraph、LlamaIndex、LiteLLM 或 CrewAI 工作流的开发者,需要排查框架内的调用链。
- 使用 Pinecone、ChromaDB、Qdrant、Weaviate 或 PGVector 的检索增强应用,需要将向量操作与 LLM 调用放在同一可观测性流程中分析。
- 需要把可观测性数据保留在自有基础设施中的团队,可部署 Next.js、Postgres 和 ClickHouse 组成的自托管实例。
- 维护 TypeScript 的 Vercel AI 或 LlamaIndex 应用,或 Python 的 Mistral 集成时,需要接入对应 SDK 的自动追踪支持。
如何安装或部署这个 Agent?
托管模式:先在 Langtrace 创建项目并生成 API key。TypeScript/JavaScript:npm i @langtrase/typescript-sdk。Python:pip install langtrace-python-sdk。自托管模式要求 Docker 和 Docker Compose;按部署需要调整 .env,再执行 docker compose up,服务启动后访问 http://localhost:3000。
如何使用这个 Agent?
TypeScript/JavaScript:在任何 LLM 模块导入之前写入 import * as Langtrace from '@langtrase/typescript-sdk',随后调用 Langtrace.init({ api_key: '<your_api_key>' });也可设置 LANGTRACE_API_KEY 环境变量后调用 LangTrace.init()。Python:from langtrace_python_sdk import langtrace,随后调用 langtrace.init(api_key='<your_api_key>');也可设置 LANGTRACE_API_KEY 后调用 langtrace.init()。初始化后运行已支持提供商、框架或向量数据库的应用调用,以采集追踪和指标。
这个 Agent 有哪些优点和局限?
- 基于 OpenTelemetry 标准生成追踪,并公开说明正在完善语义约定。
- TypeScript 与 Python SDK 均支持多家 LLM 提供商,包括 OpenAI、Anthropic、Azure OpenAI、Cohere、Gemini、AWS Bedrock 等。
- 除模型调用外,还覆盖多种框架和向量数据库,可关联应用工作流中的不同操作。
- 支持由 Next.js、Postgres 和 ClickHouse 组成的自托管部署;自托管 OSS 客户端声明不会收集遥测数据或将数据发送出服务器。
- 不同 SDK 的集成覆盖不对称:例如 LangChain、LangGraph、LiteLLM 和 CrewAI 仅列为 Python 支持,Vercel AI 仅列为 TypeScript 支持。
- 自托管需要运行三个服务,并依赖 Docker 与 Docker Compose,带来数据库运维成本。
- 托管接入要求创建项目并生成 API key;TypeScript SDK 还要求早于任何 LLM 模块导入完成初始化。
- 仓库说明追踪语义约定仍在开发中,属性定义可能继续演进。
这个 Agent 与同类方案有什么区别?
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| Langtrace 当前 | 42 · 缺口较多 | 代码库 / SDK免费版 + 付费版 | ★ 1.2k | 11 个月前 | TypeScript | OpenAI API · Claude API |
| traceAI | 69 · 存在缺口 | 代码库 / SDK免费 | ★ 266 | 4 天前 | Python | — |
| TMA1 | 51 · 缺口较多 | 自托管服务免费 + 模型费 | ★ 124 | 7 天前 | Go | Codex · Claude Code |
| Laminar | 41 · 缺口较多 | 自托管服务免费版 + 付费版 | ★ 3.5k | 今天 | TypeScript | OpenAI API · Claude API |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
证据显示:API端点有认证检查(会话或API密钥),但未发现最小权限原则的明确实施,如角色细分或细粒度权限。用户确认机制缺失,没有看到任何操作需要用户确认的流程。数据流透明度有限,README提到自托管时不收集遥测,但未详细说明数据流向。敏感数据处理方面,代码中处理API密钥,但未明确加密或脱敏策略。依赖安全方面,package.json中有大量依赖,但未提供依赖审计或漏洞扫描证据。外部影响方面,有Docker部署和外部服务集成,但未明确限制。回滚机制未提及。来源归属方面,有贡献者列表,但未明确每个文件的作者。
证据显示:代码结构一致,使用Next.js和Prisma,但未发现明确的错误处理策略。依赖可用性方面,依赖众多,但未提供锁定文件或完整性校验。失败消息方面,API返回通用错误消息,但未提供详细的错误码或日志。
证据显示:README明确了目标用户(LLM应用开发者)和使用场景(可观测性),但未详细说明能力边界。触发精度方面,SDK初始化需要API密钥,但未明确触发条件。环境适配方面,支持自托管和云服务,但未提供详细的配置选项。
证据显示:README结构清晰,有目录和详细说明。安装说明提供了npm和pip命令。命名稳定性方面,SDK名称和API端点命名一致,但未提供版本兼容性说明。示例和FAQ提供了基本示例和常见问题。已知限制方面,未明确列出。许可证为AGPL-3.0,但SDK为Apache 2.0。版本变更日志未提供。维护责任方面,有贡献者列表和社区链接。
证据显示:输出可用性方面,提供了API和UI,但未提供详细的输出格式说明。边际价值方面,提供了可观测性功能,但未与其他工具对比。成本效益方面,自托管免费,但未提供性能基准。
证据显示:README中的声明部分有链接支持,但未提供详细的验证方法。跨来源验证方面,有多个SDK仓库,但未交叉验证。事实与推断分离方面,README中的功能声明未明确区分事实和推断。
- 源码中未见:执行前用户确认开启或自行加上执行前确认;先在沙箱或测试环境跑通,确认行为后再接入真实数据。
- 源码中未见:回滚或恢复路径运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。
- 未发现用户确认机制,操作可能缺乏明确同意。
- 依赖众多且未提供锁定文件,供应链风险较高。
- 敏感数据处理策略不明确,API密钥处理需谨慎。
- 回滚机制缺失,故障恢复能力有限。
- 版本变更日志缺失,升级风险不明。
最近版本
来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。
-
发布说明摘录
What's Changed * Added support for displaying [Cleanlab](https://cleanlab.ai/) trustworthiness score on the traces tab * Cleanlab span shows additional metadata such as the explanation logs on the span attributes在 GitHub 查看 ↗ -
发布说明摘录
What's Changed * Fixed the setup instructions for the typescript sdk by @kanlanc * fix selfhosting missing team issue + add proper timeout to clickhouse by @alizenhom New Contributors * @kanlanc made their first contribution在 GitHub 查看 ↗
常见问题
Langtrace Cloud 是否收费?
自托管时,遥测数据会发送到外部吗?
如何让 TypeScript 应用开始采集追踪?
@langtrase/typescript-sdk,在导入任何 LLM 模块之前导入 SDK,并以 API key 或 LANGTRACE_API_KEY 调用初始化。