AI Agent Service Toolkit

用 LangGraph、FastAPI 和 Streamlit 搭建可自托管的智能体服务。

Star 数
★ 4.6k
最近更新
1 天前
License
MIT
主语言
Python

30 秒速览

运行形态
开发框架自托管服务网页应用
可在哪里用
通用 · 跨平台OpenAI API
费用
软件免费,模型调用费用自付
上手难度
中 · 需要几步配置
开始前需要
Pythonuv 或 pip至少一个 LLM API 密钥或提供商配置Docker 和 Docker Compose 2.23.0 或更高版本,用于文档所述的容器工作流Shell / 命令行网络访问本地文件系统
典型场景
正在验证 LangGraph 架构的 Python 团队,可从现成的智能体、HTTP 服务、客户端和聊天界面开始,而不必自行拼装整个服务链路。
不适合
  • 只想直接使用现成助手、不愿自己编写和部署 Agent 的用户
  • 希望开箱即用、无需配置数据库或 Docker 多服务的轻量场景
官网
agent-service-toolkit.streamlit.app ↗ 来自 GitHub 仓库设置
维护状态
近 30 天有提交最近提交 2026-11-16近 7 天每天 +1.0 ★

这个 Agent 能做什么,适合哪些场景?

这是一个用于开发和运行 LangGraph 智能体服务的完整 Python 模板,而非单一成品助手。仓库包含多个智能体实现、FastAPI 服务、通用 AgentClient,以及支持文字和语音交互的 Streamlit 聊天界面。服务同时提供流式与非流式调用,并可通过 URL 路径选择不同智能体;每个智能体还会通过 AG-UI 协议开放给兼容前端。其能力示例覆盖人工介入、长期记忆、多智能体监督、内容审核、基于 ChromaDB 的基础 RAG、会话历史和 LangSmith 反馈。用户可以在本地 Python 环境中运行,也可以通过 Docker Compose 启动 PostgreSQL、智能体服务和 Streamlit 应用。

服务从 src/agents/ 加载已注册的智能体,并由 src/service/service.py 中的 FastAPI 应用对外提供调用。客户端可通过 /<agent_name>/invoke 发起普通请求,或通过 /<agent_name>/stream 获取按 token 或消息传输的流式结果;/info 描述可用智能体和模型,/threads 列出某个用户在各智能体中的历史会话。src/client/client.AgentClient 封装同步、异步、流式和非流式访问,src/streamlit_app.py 则用该客户端生成带语音输入输出、历史会话侧栏和星级反馈的聊天界面。仓库还展示 LangGraph 的 interrupt()、Command、Store 和 langgraph-supervisor,用于人工介入、流程控制、长期记忆和多智能体协作。可选实现包括 ChromaDB RAG、需要 Groq API 密钥的 Safeguard 内容审核、AG-UI 端点以及 PostgreSQL 或 MongoDB 检查点后端。

  1. 正在验证 LangGraph 架构的 Python 团队,可从现成的智能体、HTTP 服务、客户端和聊天界面开始,而不必自行拼装整个服务链路。
  2. 需要在同一 FastAPI 服务中托管多个智能体的后端开发者,可按 URL 路径调用不同智能体,并通过 /info 暴露可用配置。
  3. 需要实时响应体验的应用团队,可使用 token 级或消息级流式端点,并通过 AgentClient 构建 Streamlit 之外的前端。
  4. 开发需要人工审批、长期记忆或监督智能体流程的工程师,可参考 interrupt()、Command、Store 与 langgraph-supervisor 的实现。
  5. 构建内部知识问答原型的团队,可采用随仓库提供的基础 ChromaDB RAG 智能体,并按文档完成额外配置。
  6. 希望接入 CopilotKit 等 AG-UI 兼容前端的团队,可使用每个智能体对应的 AG-UI 服务接口。

安装与配置要点

摘自下方的安装和使用说明,以项目 README 的最新说明为准。

安装 / 启动命令
  • curl -LsSf https://astral.sh/uv/0.11.32/install.sh | sh
环境变量
OPENAI_API_KEY
配置文件
.env .env.example
安装说明涉及
Docker

如何安装或部署这个 Agent?

准备 Python 环境,并至少配置一个 LLM API 密钥或提供商连接参数。快速开始可执行:

git clone https://github.com/JoshuaC215/agent-service-toolkit.git
cd agent-service-toolkit
echo 'OPENAI_API_KEY=your_openai_api_key' >> .env
curl -LsSf https://astral.sh/uv/0.11.32/install.sh | sh
uv sync --frozen
source .venv/bin/activate
python src/run_service.py

在另一个终端中执行:

source .venv/bin/activate
streamlit run src/streamlit_app.py

也可以先从 .env.example 创建配置,然后执行 docker compose watch;该方式要求 Docker 和 Docker Compose 2.23.0 或更高版本。

如何使用这个 Agent?

服务启动后,在浏览器访问通常位于 http://localhost:8501 的 Streamlit 界面。FastAPI 服务位于 http://0.0.0.0:8080,接口文档可在 http://0.0.0.0:8080/redoc 查看。代码调用示例:

from client import AgentClient
client = AgentClient()
response = client.invoke("Tell me a brief joke?")
response.pretty_print()

自定义智能体时,将实现加入 src/agents/,在 src/agents/agents.py 的 agents 字典中注册,然后通过 /<your_agent_name>/invoke 或 /<your_agent_name>/stream 调用;如有需要,再修改 src/streamlit_app.py。开发检查可运行 pytest;涉及 PostgreSQL、MongoDB、AG-UI 或 LangFuse 时,可针对性运行 ./scripts/smoke_test.sh postgres、mongo、agui 或 langfuse。

这个 Agent 有哪些优点和局限?

优点
  • 覆盖从 LangGraph 智能体定义、FastAPI 服务、通用客户端到 Streamlit 界面的完整链路,并同时提供流式和非流式访问。
  • 展示 interrupt()、Command、Store 和 langgraph-supervisor 等 LangGraph 1.0 功能,适合需要人工介入、流程控制、长期记忆或多智能体监督的项目。
  • 每个智能体均提供 AG-UI 协议接口,可连接 CopilotKit 等兼容前端,而 AgentClient 也能支持自建应用。
  • 同时支持本地 Python 与 Docker Compose 工作流,并配有单元测试、集成测试和针对可选基础设施的端到端冒烟测试。
局限
  • 必须配置至少一个 LLM API 密钥或提供商连接;内容审核还额外需要 Groq API 密钥,部分能力会引入外部服务依赖。
  • Docker 工作流会启动 PostgreSQL、FastAPI 服务和 Streamlit 应用,部署复杂度与资源需求高于单进程聊天脚本。
  • PostgreSQL、MongoDB、AG-UI 和 LangFuse 的冒烟测试属于手动选择执行的检查,不在默认 CI 中。
  • 测试目前要求使用不依赖 Docker 的本地开发环境运行,容器工作流不能替代该测试步骤。
  • 项目由单人维护,问题、拉取请求和讨论通常约每两周集中处理一次,非紧急反馈可能需要一到两周。

这个 Agent 与同类方案有什么区别?

与相关度最高的同类 agent 并排比较关键指标。

Agent 源码审查 形态 / 费用 Star 最近更新 主语言 完整支持的平台
AI Agent Service Toolkit 当前 69 · 存在缺口 开发框架免费 + 模型费 ★ 4.6k 1 天前 Python OpenAI API
从原型到生产的生成式AI代理实战指南 44 · 缺口较多 代码库 / SDK免费 + 模型费 ★ 22k 1 天前 Jupyter Notebook —
OpenAgent 46 · 缺口较多 自托管服务免费 + 模型费 ★ 755 1 天前 Python OpenAI API
Agent Craft 智能体教程 52 · 缺口较多 命令行工具免费 + 模型费 ★ 536 21 天前 Python OpenAI API

FollowAgents 如何评估这个 Agent?

FollowAgents 源码审查 · FARS-2.1
存在缺口
69/ 100 五分制 3.5 / 5
信任安全 13/29
可靠稳定 9/14
适用触发 15/18
规范维护 15/18
有效结果 12/13
证据核验 5/8
查看各维度的扣分理由
信任安全13 / 29 · 2.2/5

README、pyproject.toml 和 CLAUDE.md 展示了多种 LLM/API 凭据配置、私有凭据文件的忽略规则及维护自动化的人工审阅边界,因此数据流和敏感凭据处理有一定说明(2);但样本未展示服务端点认证或代理工具的细粒度权限控制,最小权限和外部副作用控制证据有限(各1)。维护者响应技能默认只起草、不发布,算有限确认机制(1);部署工作流会推送镜像并部署到 Azure,但没有展示回滚路径(0)。README 和维护技能说明上游框架、LangSmith 集成及来源用途,归属可追溯但不全面(2)。

可靠稳定9 / 14 · 3.2/5

README、测试样本与配置共同支持主要架构和 agent 加载行为的一致性,但测试多为 mock,且无法据此证明运行正确性(2)。pyproject.toml 固定或约束了大量依赖,并提供 uv.lock 工作流及 14 天解析冷却;不过依赖范围仍较广,样本未证明所有外部服务持续可用(2)。测试展示对缺失 agent、未加载 agent 的明确错误,技能也说明 smoke test 失败判定;但没有完整服务错误处理代码(2)。

适用触发15 / 18 · 4.2/5

README 面向希望构建、运行或扩展 LangGraph 服务的开发者,涵盖本地模型、云提供商、RAG、Docker、客户端及自定义 agent,覆盖充分(3)。README 说明了 API、多个 agent、可选 RAG 和所需密钥等能力边界,但对代理工具可执行的动作和风险边界说明不足(2)。样本技能具有明确触发描述和具体适用条件,README 也将特定部署与集成配置分开介绍(2)。支持 Python 3.12–3.14、本地和 Docker、多个模型提供商及可选组件,环境适配说明充分(3)。

规范维护15 / 18 · 4.2/5

README 以架构、快速开始、设置、扩展、Docker、开发和贡献分区,文件结构清楚(3)。安装步骤、环境变量入口、Docker 版本要求和本地运行方式具体(3)。包名、服务名和目录职责大体一致,但仅有 0.1.0 版本信息,没有样本内的稳定兼容策略(2)。提供端到端示例、客户端代码、视频和多份专题文档,也列出测试与可选依赖 smoke test 的使用方式(3)。README 揭示部分基础设施测试不在默认 CI、LangFuse smoke test 资源开销大等局限;但样本未全面说明安全边界或故障限制(2)。LICENSE 明确为 MIT(3)。pyproject.toml 有当前版本,但所给材料没有变更日志或发布历史(1)。README 明确说明单人维护、约双周处理 issue/PR,并指出维护自动化文档位置(3)。

有效结果12 / 13 · 4.6/5

FastAPI 服务、客户端、Streamlit UI、流式响应、agent 示例和部署配置形成可直接使用的工具包,输出形态清晰(3)。其价值在于把 agent、服务端、客户端和 UI 组合成可定制模板,并提供多个集成路径(3)。基础依赖和外部 API 密钥要求较多,Docker 与可选基础设施增加部署成本;README 提供本地方案和按需 smoke test 指引,成本有所缓解(2)。

证据核验5 / 8 · 3.1/5

README 的安装、架构和特性主张能由 pyproject.toml、工作流和测试样本部分对应,但不少特性没有相应实现文件在本材料中佐证(2)。README、配置与测试对 agent 加载、依赖、部署方式等提供有限交叉印证;样本覆盖不完整,不能确认全部宣传功能(2)。文档对默认配置、可选依赖及 smoke test 的范围有区分,但部分“robust”等描述没有由给出的材料证明,因此不予满分(2)。

风险与缓解建议
  • 源码中未见:回滚或恢复路径运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。
  • 样本没有展示服务端认证、agent 工具权限或完整数据流实现;部署工作流包含推送和部署操作,但未见回滚说明。
  • README 宣称的部分功能没有对应实现文件包含在材料中;静态评估不代表执行或独立验证。
证据充分度:低 评估于 2026年11月7日 审查版本 8bb3cd36264c 评估后仓库已有新提交,评分可能未覆盖最新改动
查看完整评分方法 →
你是这个项目的维护者?把 FARS 徽章加到 README

徽章显示当前的评审分数和结论,点击回到本页。重新评审后约一小时内更新。

FARS

[![FARS 评测](https://followagents.com/badge/agent-service-toolkit.svg?lang=zh)](https://followagents.com/zh/agents/agent-service-toolkit)
<a href="https://followagents.com/zh/agents/agent-service-toolkit"><img src="https://followagents.com/badge/agent-service-toolkit.svg?lang=zh" alt="FARS 评测"></a>

常见问题

必须使用 OpenAI 模型吗?
不是。仓库说明 .env.example 包含多种模型提供商的 API 密钥与配置,并另有 Ollama 和 VertexAI 设置文档;但至少需要一种可用的 LLM API 密钥或配置。
是否必须安装 Docker?
不是。可以通过 uv sync --frozen 创建本地环境,并分别运行 python src/run_service.py 和 streamlit run src/streamlit_app.py。Docker Compose 是另一种推荐的开发与部署方式。
能否只使用 API,而不用 Streamlit?
可以。FastAPI 服务独立提供流式和非流式端点,AgentClient 也可用于构建其他应用;Streamlit 只是仓库附带的聊天前端。
默认 CI 是否验证所有可选集成?
否。PostgreSQL、MongoDB、AG-UI 和 LangFuse 等需要真实基础设施的集成通过 scripts/smoke_test.sh 手动验证,不属于默认 CI。
如何处理文件型凭据或证书?
仓库提供 privatecredentials/ 目录;除 .gitkeep 外,其中内容会被 Git 和 Docker 构建过程忽略,并有专门的文件型凭据文档说明建议用法。
AI Agent Service Toolkit 官网是什么?
AI Agent Service Toolkit 的 GitHub 仓库填写的官网是 https://agent-service-toolkit.streamlit.app。这个链接由仓库作者设置;源码在 GitHub(JoshuaC215/agent-service-toolkit)。
AI Agent Service Toolkit 免费吗?
软件本身免费,但 AI Agent Service Toolkit 要调用 AI 模型,模型的调用费用由你向模型服务商支付(也可以接本地模型)。
AI Agent Service Toolkit 开源吗?
开源。源码在 GitHub(JoshuaC215/agent-service-toolkit),许可证是 MIT。
AI Agent Service Toolkit 安全吗?
FollowAgents 的 FARS 评审(2026年11月7日)给 AI Agent Service Toolkit 的“信任与安全”打了 13/29 分。评审没有在源码和文档里找到这些安全措施:回滚或恢复路径。接入真实账号或数据前:运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。评审之后仓库已有更新。
AI Agent Service Toolkit 还在维护吗?
在维护。GitHub 上最近一次提交是 2026-11-16,在最近 30 天内。
AI Agent Service Toolkit 是谁开发的?
AI Agent Service Toolkit 由 GitHub 账号 JoshuaC215 发布。FollowAgents 没有核实这个账号背后是哪个人或公司。
这页内容对你有帮助吗?
在 GitHub 查看 ↗ 安装 ↓

对比同类 Agent

用同一套 FARS 评审,横向比较这个 Agent 所属的短名单。

相关核心概念