FastAPI LangGraph Agent 生产就绪模板

这个 Agent 能做什么，适合哪些场景？

FastAPI LangGraph Agent 模板是一个生产级后端起点，用于构建 AI Agent 服务。它处理了状态化对话、长期记忆（通过 mem0 和 pgvector）、工具调用、可观测性（Langfuse、Prometheus、Grafana）、速率限制和 JWT 认证，使开发者可以专注于 Agent 逻辑。该模板包含 LLMRegistry 服务，支持循环回退和指数退避重试，并通过 OpenAI 兼容端点（如 Atlas Cloud）工作。项目提供 Alembic 迁移、可选的 Valkey/Redis 缓存层、结构化日志，以及详细的文档（包括架构、配置和评估）。它适用于 Docker Compose 或本地开发，并附带 Makefile 命令。

启动时会初始化 FastAPI 应用，暴露 /docs 端点下的 API 路由，并连接 PostgreSQL 数据库（通过 SQLModel ORM，带 Alembic 迁移）。Agent 图定义在 app/core/langgraph/ 中，支持带 checkpointing 的状态化对话和工具调用；工具可以添加到 app/core/langgraph/tools/。LLM 调用通过 LLMRegistry，使用 langchain_openai.ChatOpenAI，并配置了 DEFAULT_LLM_MODEL、OPENAI_BASE_URL 和 OPENAI_API_KEY 环境变量；服务在发生故障时会在模型间循环回退，并应用总超时预算。长期记忆由进程内 mem0 提供，并持久化到 PostgreSQL，使用 pgvector 进行语义搜索。所有 LLM 调用都会通过 Langfuse 追踪，Prometheus 暴露指标。JWT 认证用于会话管理，slowapi 实现速率限制。还提供评估框架（evals/）。

1. AI 工程师希望在几小时内搭建一个生产级 Agent 后端，而不是从零开始集成所有组件
2. 团队需要为多个用户提供具有长期语义记忆的 Agent，而不依赖外部记忆云服务
3. 希望在 Langfuse、Prometheus 和 Grafana 中追踪完整 LLM 调用链的开发团队
4. 需要带会话和速率限制的 JWT 认证后端，并快速搭建状态化对话
5. 希望基于单一 OpenAI 兼容端点（如 Atlas Cloud）尝试不同 LLM 的工程师
6. 需要一个包含 Docker、数据库迁移和监控栈的完整模板，用于快速项目启动

如何安装或部署这个 Agent？

克隆仓库并进入目录，然后复制 .env.example 为 .env.development 并填入密钥（OPENAI_API_KEY 或 Atlas Cloud 凭证，以及数据库配置）。确保 Docker 已安装，然后运行 make install 和 make docker-up 来启动 API 和 PostgreSQL。对于本地开发，请参阅 docs/getting-started.md。

如何使用这个 Agent？

启动 Docker 后，访问 [http://localhost:8000/docs](http://localhost:8000/docs) 查看交互式 API 文档。应用迁移：make migrate。设置环境变量 DEFAULT_LLM_MODEL 以选择模型。可以通过在 app/core/langgraph/tools/ 中添加 LangChain 装饰的工具，并在该包的 tools 列表中注册，来添加自定义工具，无需修改图。使用 Langfuse 进行追踪，设置 LANGFUSE_TRACING_ENABLED=false 可禁用。有关完整配置，请参阅 docs/configuration.md。

这个 Agent 有哪些优点和局限？

这个 Agent 与同类方案有什么区别？

与相关度最高的同类 agent 并排比较关键指标。

FollowAgents 如何评估这个 Agent？

常见问题