AI Agent Service Toolkit
用 LangGraph、FastAPI 和 Streamlit 搭建可自托管的智能体服务。
- Star 数
- ★ 4.6k
- 最近更新
- 1 天前
- License
- MIT
- 主语言
- Python
- FA 评分
- 69/100 · 存在缺口
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台OpenAI API
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 中 · 需要几步配置
- 开始前需要
- 典型场景
- 正在验证 LangGraph 架构的 Python 团队,可从现成的智能体、HTTP 服务、客户端和聊天界面开始,而不必自行拼装整个服务链路。
- 不适合
- 只想直接使用现成助手、不愿自己编写和部署 Agent 的用户
- 希望开箱即用、无需配置数据库或 Docker 多服务的轻量场景
- 官网
- agent-service-toolkit.streamlit.app ↗ 来自 GitHub 仓库设置
- 维护状态
- 近 30 天有提交最近提交 2026-11-16近 7 天每天 +1.0 ★
这个 Agent 能做什么,适合哪些场景?
这是一个用于开发和运行 LangGraph 智能体服务的完整 Python 模板,而非单一成品助手。仓库包含多个智能体实现、FastAPI 服务、通用 AgentClient,以及支持文字和语音交互的 Streamlit 聊天界面。服务同时提供流式与非流式调用,并可通过 URL 路径选择不同智能体;每个智能体还会通过 AG-UI 协议开放给兼容前端。其能力示例覆盖人工介入、长期记忆、多智能体监督、内容审核、基于 ChromaDB 的基础 RAG、会话历史和 LangSmith 反馈。用户可以在本地 Python 环境中运行,也可以通过 Docker Compose 启动 PostgreSQL、智能体服务和 Streamlit 应用。
服务从 src/agents/ 加载已注册的智能体,并由 src/service/service.py 中的 FastAPI 应用对外提供调用。客户端可通过 /<agent_name>/invoke 发起普通请求,或通过 /<agent_name>/stream 获取按 token 或消息传输的流式结果;/info 描述可用智能体和模型,/threads 列出某个用户在各智能体中的历史会话。src/client/client.AgentClient 封装同步、异步、流式和非流式访问,src/streamlit_app.py 则用该客户端生成带语音输入输出、历史会话侧栏和星级反馈的聊天界面。仓库还展示 LangGraph 的 interrupt()、Command、Store 和 langgraph-supervisor,用于人工介入、流程控制、长期记忆和多智能体协作。可选实现包括 ChromaDB RAG、需要 Groq API 密钥的 Safeguard 内容审核、AG-UI 端点以及 PostgreSQL 或 MongoDB 检查点后端。
- 正在验证 LangGraph 架构的 Python 团队,可从现成的智能体、HTTP 服务、客户端和聊天界面开始,而不必自行拼装整个服务链路。
- 需要在同一 FastAPI 服务中托管多个智能体的后端开发者,可按 URL 路径调用不同智能体,并通过 /info 暴露可用配置。
- 需要实时响应体验的应用团队,可使用 token 级或消息级流式端点,并通过 AgentClient 构建 Streamlit 之外的前端。
- 开发需要人工审批、长期记忆或监督智能体流程的工程师,可参考 interrupt()、Command、Store 与 langgraph-supervisor 的实现。
- 构建内部知识问答原型的团队,可采用随仓库提供的基础 ChromaDB RAG 智能体,并按文档完成额外配置。
- 希望接入 CopilotKit 等 AG-UI 兼容前端的团队,可使用每个智能体对应的 AG-UI 服务接口。
安装与配置要点
摘自下方的安装和使用说明,以项目 README 的最新说明为准。
- 安装 / 启动命令
curl -LsSf https://astral.sh/uv/0.11.32/install.sh | sh
- 环境变量
OPENAI_API_KEY- 配置文件
.env.env.example- 安装说明涉及
- Docker
如何安装或部署这个 Agent?
准备 Python 环境,并至少配置一个 LLM API 密钥或提供商连接参数。快速开始可执行:
git clone https://github.com/JoshuaC215/agent-service-toolkit.git
cd agent-service-toolkit
echo 'OPENAI_API_KEY=your_openai_api_key' >> .env
curl -LsSf https://astral.sh/uv/0.11.32/install.sh | sh
uv sync --frozen
source .venv/bin/activate
python src/run_service.py在另一个终端中执行:
source .venv/bin/activate
streamlit run src/streamlit_app.py也可以先从 .env.example 创建配置,然后执行 docker compose watch;该方式要求 Docker 和 Docker Compose 2.23.0 或更高版本。
如何使用这个 Agent?
服务启动后,在浏览器访问通常位于 http://localhost:8501 的 Streamlit 界面。FastAPI 服务位于 http://0.0.0.0:8080,接口文档可在 http://0.0.0.0:8080/redoc 查看。代码调用示例:
from client import AgentClient
client = AgentClient()
response = client.invoke("Tell me a brief joke?")
response.pretty_print()自定义智能体时,将实现加入 src/agents/,在 src/agents/agents.py 的 agents 字典中注册,然后通过 /<your_agent_name>/invoke 或 /<your_agent_name>/stream 调用;如有需要,再修改 src/streamlit_app.py。开发检查可运行 pytest;涉及 PostgreSQL、MongoDB、AG-UI 或 LangFuse 时,可针对性运行 ./scripts/smoke_test.sh postgres、mongo、agui 或 langfuse。
这个 Agent 有哪些优点和局限?
- 覆盖从 LangGraph 智能体定义、FastAPI 服务、通用客户端到 Streamlit 界面的完整链路,并同时提供流式和非流式访问。
- 展示 interrupt()、Command、Store 和 langgraph-supervisor 等 LangGraph 1.0 功能,适合需要人工介入、流程控制、长期记忆或多智能体监督的项目。
- 每个智能体均提供 AG-UI 协议接口,可连接 CopilotKit 等兼容前端,而 AgentClient 也能支持自建应用。
- 同时支持本地 Python 与 Docker Compose 工作流,并配有单元测试、集成测试和针对可选基础设施的端到端冒烟测试。
- 必须配置至少一个 LLM API 密钥或提供商连接;内容审核还额外需要 Groq API 密钥,部分能力会引入外部服务依赖。
- Docker 工作流会启动 PostgreSQL、FastAPI 服务和 Streamlit 应用,部署复杂度与资源需求高于单进程聊天脚本。
- PostgreSQL、MongoDB、AG-UI 和 LangFuse 的冒烟测试属于手动选择执行的检查,不在默认 CI 中。
- 测试目前要求使用不依赖 Docker 的本地开发环境运行,容器工作流不能替代该测试步骤。
- 项目由单人维护,问题、拉取请求和讨论通常约每两周集中处理一次,非紧急反馈可能需要一到两周。
这个 Agent 与同类方案有什么区别?
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| AI Agent Service Toolkit 当前 | 69 · 存在缺口 | 开发框架免费 + 模型费 | ★ 4.6k | 1 天前 | Python | OpenAI API |
| 从原型到生产的生成式AI代理实战指南 | 44 · 缺口较多 | 代码库 / SDK免费 + 模型费 | ★ 22k | 1 天前 | Jupyter Notebook | — |
| OpenAgent | 46 · 缺口较多 | 自托管服务免费 + 模型费 | ★ 755 | 1 天前 | Python | OpenAI API |
| Agent Craft 智能体教程 | 52 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 536 | 21 天前 | Python | OpenAI API |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
README、pyproject.toml 和 CLAUDE.md 展示了多种 LLM/API 凭据配置、私有凭据文件的忽略规则及维护自动化的人工审阅边界,因此数据流和敏感凭据处理有一定说明(2);但样本未展示服务端点认证或代理工具的细粒度权限控制,最小权限和外部副作用控制证据有限(各1)。维护者响应技能默认只起草、不发布,算有限确认机制(1);部署工作流会推送镜像并部署到 Azure,但没有展示回滚路径(0)。README 和维护技能说明上游框架、LangSmith 集成及来源用途,归属可追溯但不全面(2)。
README、测试样本与配置共同支持主要架构和 agent 加载行为的一致性,但测试多为 mock,且无法据此证明运行正确性(2)。pyproject.toml 固定或约束了大量依赖,并提供 uv.lock 工作流及 14 天解析冷却;不过依赖范围仍较广,样本未证明所有外部服务持续可用(2)。测试展示对缺失 agent、未加载 agent 的明确错误,技能也说明 smoke test 失败判定;但没有完整服务错误处理代码(2)。
README 面向希望构建、运行或扩展 LangGraph 服务的开发者,涵盖本地模型、云提供商、RAG、Docker、客户端及自定义 agent,覆盖充分(3)。README 说明了 API、多个 agent、可选 RAG 和所需密钥等能力边界,但对代理工具可执行的动作和风险边界说明不足(2)。样本技能具有明确触发描述和具体适用条件,README 也将特定部署与集成配置分开介绍(2)。支持 Python 3.12–3.14、本地和 Docker、多个模型提供商及可选组件,环境适配说明充分(3)。
README 以架构、快速开始、设置、扩展、Docker、开发和贡献分区,文件结构清楚(3)。安装步骤、环境变量入口、Docker 版本要求和本地运行方式具体(3)。包名、服务名和目录职责大体一致,但仅有 0.1.0 版本信息,没有样本内的稳定兼容策略(2)。提供端到端示例、客户端代码、视频和多份专题文档,也列出测试与可选依赖 smoke test 的使用方式(3)。README 揭示部分基础设施测试不在默认 CI、LangFuse smoke test 资源开销大等局限;但样本未全面说明安全边界或故障限制(2)。LICENSE 明确为 MIT(3)。pyproject.toml 有当前版本,但所给材料没有变更日志或发布历史(1)。README 明确说明单人维护、约双周处理 issue/PR,并指出维护自动化文档位置(3)。
FastAPI 服务、客户端、Streamlit UI、流式响应、agent 示例和部署配置形成可直接使用的工具包,输出形态清晰(3)。其价值在于把 agent、服务端、客户端和 UI 组合成可定制模板,并提供多个集成路径(3)。基础依赖和外部 API 密钥要求较多,Docker 与可选基础设施增加部署成本;README 提供本地方案和按需 smoke test 指引,成本有所缓解(2)。
README 的安装、架构和特性主张能由 pyproject.toml、工作流和测试样本部分对应,但不少特性没有相应实现文件在本材料中佐证(2)。README、配置与测试对 agent 加载、依赖、部署方式等提供有限交叉印证;样本覆盖不完整,不能确认全部宣传功能(2)。文档对默认配置、可选依赖及 smoke test 的范围有区分,但部分“robust”等描述没有由给出的材料证明,因此不予满分(2)。
- 源码中未见:回滚或恢复路径运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。
- 样本没有展示服务端认证、agent 工具权限或完整数据流实现;部署工作流包含推送和部署操作,但未见回滚说明。
- README 宣称的部分功能没有对应实现文件包含在材料中;静态评估不代表执行或独立验证。
常见问题
必须使用 OpenAI 模型吗?
是否必须安装 Docker?
能否只使用 API,而不用 Streamlit?
默认 CI 是否验证所有可选集成?
如何处理文件型凭据或证书?
AI Agent Service Toolkit 官网是什么?
AI Agent Service Toolkit 免费吗?
AI Agent Service Toolkit 开源吗?
AI Agent Service Toolkit 安全吗?
AI Agent Service Toolkit 还在维护吗?
AI Agent Service Toolkit 是谁开发的?
谢谢反馈,我们会据此改进页面。