自动化与运维 self-hostingdistributed-inferenceagent-orchestrationlocal-memorycontainer-deploymentmodel-routingmcp-pluginshardware-clustering

taOS 自托管智能体操作系统

在自有硬件上运行、编排并保存智能体、模型、记忆与文件。

FollowAgents 评估 · FARS-2.1
谨慎使用
71/ 100 五分制 3.6 / 5
1 2 3 4 5 6
按维度查看评分与理由
1信任安全18 / 29 · 3.1/5

证据显示本地优先、云端选择加入、按类别控制记忆采集、代理读取用户记忆需显式配置,工作节点配对还采用一次性 PIN、人工批准和签名密钥;模型清单描述了固定校验和,安全策略提供私密漏洞报告渠道。扣分原因是推荐安装命令从 master 分支直接下载脚本并以 sudo 执行,Linux 工作节点会创建特权 LXC、网络转发规则和系统服务;未提供完整的权限清单、秘密存储生命周期、云提供商数据流图或系统级撤销/卸载方案。删除浏览器资料虽有 API 测试,但所给材料未证明危险操作均需二次确认。来源和若干上游项目有署名,但发布者身份仍未知。

2可靠稳定9 / 14 · 3.2/5

README、包配置和前端单元测试共同展示了明确的平台行为、依赖约束、网络错误降级和状态处理;安装器被描述为幂等,部分依赖限制还记录了具体回归原因。扣分原因是没有执行证据,许多可用性陈述仅来自 README;前端辅助函数在网络失败时常返回空数组、null 或 false,可能隐藏故障细节;“43 个捆绑应用”与随后列出的分类数量并不完全直观一致,且 README 明确承认大量清单未经真实硬件验证。

3适用触发15 / 18 · 4.2/5

材料清楚覆盖个人自托管、低功耗设备、桌面/移动端、异构集群、多代理框架、本地与云模型等场景,并给出多种操作系统和硬件路径,因此受众、场景和环境适配证据较强。扣分在能力边界和触发精度:虽然说明了 beta 状态、未经验证的清单、显式记忆权限、配对和硬件过滤,但未给出完整的代理工具授权模型、每项技能触发规则或跨框架适配器的失败边界。

4规范维护15 / 18 · 4.2/5

README 信息架构丰富,快速开始、发行版依赖、手动开发启动、工作节点安装、配对和已验证平台均有具体说明;已明确标示 beta、未验证目录项、支持分支策略和完整 AGPL-3.0 许可证。扣分原因是 taOS 与 tinyagentos 名称及命令并存,可能增加迁移和运维歧义;没有单独的 FAQ、完整卸载/升级/回退说明或所给证据中的正式变更日志。维护渠道和响应预期明确,但维护责任主要指向未验证身份的单一维护者,治理和接替路径不清楚。

5有效结果9 / 13 · 3.5/5

产品描述展示了可直接使用的网页桌面、消息、代理、文件、模型、监控和集群工作流,并将多框架共享记忆及消费级硬件聚合作为明显增量价值。扣分原因是这些效果主要由项目自述和少量局部前端测试支持,未静态展示主要端到端输出;硬件价格和离线收益有说明,但安装、特权容器、模型存储、维护以及云服务的总成本与复杂度没有系统量化。

6证据核验5 / 8 · 3.1/5

来源提供了具体文件路径、接口、环境变量、版本限制、问题编号、测试用例和设计文档引用,部分声明可在 README、pyproject、SECURITY 和测试之间相互印证;基准段落也明确指出自身 Judge 准确率与外部 Recall@5 并非同类指标。扣分原因是关键性能、规模、校验和验证及“默认不离开硬件”等广泛声明没有在所给代码片段中逐项追溯,外部基准和真实硬件报告未被独立交叉验证,若干营销性结论仍超过当前静态证据。

证据充分度: 评估于 2026年9月17日 审查版本 69733a2dc470
使用前请注意
  • 不要在审阅并固定脚本版本之前,将来自 master 分支的远程安装脚本直接通过管道交给 sudo。
  • Linux 工作节点安装会创建特权 LXC、btrfs 存储池、nftables 转发规则及 root 系统服务;应先在隔离主机上核对权限、端口和卸载路径。
  • 项目仍为 beta,README 明确说明许多应用、框架和模型清单未在真实硬件上验证,部署前应逐项试验。
  • 代理浏览器可访问会话 Cookie,系统还能保存 API 密钥和长期记忆;应限制代理技能、网络范围和秘密访问,并准备密钥轮换与数据删除流程。
  • 本评估仅基于给定文件的静态审阅,未执行安装、测试、基准或安全扫描。
查看完整评分方法 →

这个 Agent 能做什么,适合哪些场景?

taOS 是一个以 FastAPI 控制器、React 网页桌面、taOSmd 记忆系统、LiteLLM 代理和分布式工作节点为核心的自托管智能体平台。它可以在单台树莓派、Orange Pi、Mac、PC 上运行,也能把多台设备组成按硬件能力调度的推理集群。平台负责智能体的记忆、文件、密钥、消息渠道、模型访问和容器生命周期,而 SmolAgents、OpenClaw、OpenAI Agents SDK、Langroid 等框架作为可替换的执行引擎运行。用户通过浏览器桌面、移动 PWA、WebSocket 聊天、HTTP API、命令行和 MCP 插件管理智能体,并可产出消息、文件、知识索引、图像、视频、音频、游戏及 LoRA 适配器。它支持完全离线的本地模型,也可选择连接 OpenAI、Anthropic、DeepSeek 或兼容 API;项目目前明确标记为 Beta,部分应用、框架、模型安装清单及管理流程仍可能失败或不完整。

控制器通过 FastAPI 和网页桌面管理智能体、工作节点、应用、模型、渠道、密钥、任务与备份。部署向导按“框架→模型→配置→部署”流程,把智能体放入 LXC 或 Docker 隔离环境,并为其分配独立 taOSmd 记忆、文件空间和网络身份。taOSmd 从消息、笔记、文件与搜索活动中摄取内容,经事实提取、时间知识图谱、FTS5 关键词检索、向量检索、RRF 合并、交叉编码器重排和上下文组装,为智能体提供长期记忆;平台通过 POST /ingest/batch、GET /search?mode=bm25、POST /vsearch 等接口读写相关数据。Channel Hub 从 Telegram、Discord、Slack、Matrix、邮件、Web Chat 和 Webhook 接收消息,再通过通用消息格式及框架适配器路由到智能体。LiteLLM 提供内部 OpenAI 兼容接口、虚拟 API 密钥、预算和速率限制,并在本地与可选云端后端之间路由请求。集群工作节点上报硬件、负载和已加载模型,调度器据此分配推理、嵌入、图像生成或训练工作;应用商店还可安装框架、流式桌面应用、模型和 47 个 MCP 插件。

  1. 重视数据主权的个人或小团队,希望把对话、文件和长期记忆留在局域网设备上,同时保留按需调用云模型的选择。
  2. 拥有 Orange Pi、树莓派、Mac mini 和游戏 PC 等闲置设备的家庭实验室用户,希望把它们组合成异构 AI 推理集群。
  3. 需要试用多种智能体框架的开发团队,希望由平台统一保存记忆、渠道、文件和密钥,从而减少更换执行框架时的数据迁移。
  4. 需要在 Telegram、Discord、Slack、邮件和网页聊天之间统一接入多个智能体的团队,并希望集中管理机器人令牌和消息路由。
  5. 需要本地生成图像、视频、语音、游戏或训练 LoRA 的创作者,且已有适配的 GPU、NPU 或 CPU 工作节点。
  6. 使用 Claude Code、aider、opencode 等 CLI 编码智能体的项目团队,希望通过审批、作用域令牌、看板和 A2A 总线让外部智能体加入工作流。

这个 Agent 有哪些优点和局限?

优点
  • 平台把记忆、文件、渠道、密钥和模型入口置于框架之外,允许在支持的执行框架之间切换而保留平台管理的数据。
  • 同一控制器可调度 Apple Silicon、NVIDIA、AMD、Rockchip NPU、树莓派、Android 和纯 CPU 节点,并根据工作节点实时上报的能力路由任务。
  • taOSmd 提供时间知识图谱、关键词与向量混合检索、零损归档、重排和来源支持验证,而不是只保存聊天记录。
  • 既可完全离线运行,也可通过 LiteLLM 接入多个云端提供商;每个智能体可获得带预算和速率限制的虚拟密钥。
  • 网页桌面、移动 PWA、消息渠道、MCP 目录和应用商店集中覆盖部署、聊天、监控及内容生成。
局限
  • 项目处于 Beta;说明明确指出部分智能体管理、工作节点连接和模型路由流程仍在完善,许多应用、框架及模型清单尚未在真实硬件上验证。
  • 完整安装会引入 Python、Node.js 22、PostgreSQL、SQLCipher、多个 systemd 服务和若干端口,运维复杂度明显高于单一聊天或推理服务。
  • Linux 工作节点的推荐安装会创建特权 Incus LXC、btrfs 存储池和 nftables DNAT 规则,对宿主机权限、安全审查和存储规划要求较高。
  • 在 Proxmox 等环境的非特权 LXC 内无法直接创建嵌套智能体容器,需要改用启用 nesting 的特权容器;这会改变隔离与风险边界。
  • README 中的 97.0% LongMemEval-S 成绩是端到端 Judge 指标,不能直接与采用 Recall@5 的 MemPalace 或 agentmemory 数字横向比较。

如何安装或部署这个 Agent?

控制器支持 Debian、Ubuntu、Fedora、Arch、Alpine 和 macOS。标准安装命令为:

curl -fsSL https://raw.githubusercontent.com/jaylfc/taOS/master/scripts/install-server.sh | sudo sh

脚本会安装 Node.js 22、Python 环境及系统依赖,并启动 tinyagentos.service(端口 6969)和 qmd.service(端口 7832);不使用 sudo 时会安装为用户级 systemd 单元。安装完成后打开 http://your-host:6969,或在支持 mDNS 的网络中打开 http://taos.local:6969。开发模式可执行:

pip install -e .

python -m uvicorn tinyagentos.app:create_app --factory --host 0.0.0.0 --port 6969

本地模型不要求云端凭据;如需使用 OpenAI、Anthropic、DeepSeek 或兼容服务,应在 Providers 应用中添加并测试相应凭据。可选的登录密码可用于保护控制面板。生产采用前应检查脚本将安装的 PostgreSQL、systemd 服务、端口和数据目录;仓库明确说明当前为 Beta。

如何使用这个 Agent?

首次打开 http://your-host:6969 后,可在 Store 安装所需框架和模型,再进入 Agents 应用使用五步向导选择框架、模型、配置并部署。通过 Messages 或独立的 /chat-pwa 与智能体聊天;通过 Memory、Files、Channels、Secrets 和 Tasks 管理其知识、工作区、消息连接、凭据与定时任务。新增 Linux/macOS 工作节点时运行:

curl -fsSL https://raw.githubusercontent.com/jaylfc/taOS/master/scripts/install-worker.sh | sudo bash -s -- http://your-server:6969

工作节点首次运行会显示配对码,需要在 Cluster 应用中批准;若不希望局域网广播,可设置 TAOS_PAIR_MANUAL=1,并在 15 分钟内手工输入节点地址和一次性 PIN。外部编码智能体先调用 POST /api/agents/auth-requests 请求身份及作用域,由用户审批项目和权限后,使用签发的 Ed25519 registry JWT 访问看板、A2A、Canvas 或项目文件接口。升级控制器可在仓库目录执行 bin/update.sh。

这个 Agent 与同类方案有什么区别?

与把记忆绑定在单一执行框架中的方案相比,taOS 将记忆、消息渠道、文件、密钥和模型访问放在框架外部,并支持在 SmolAgents、LangChain、OpenClaw 等执行引擎之间切换。其用户记忆定位类似自托管的 Pieces App。taOSmd 公布的 97.0% LongMemEval-S 是“检索—生成—LLM 评分”的端到端结果,而 MemPalace 的 96.6% 和 agentmemory 的 95.2% 是 Recall@5 检索指标,因此来源明确说明这些数字并非同类比较。

常见问题

必须购买云模型 API 吗?
不需要。taOS 可使用本地模型并完全离线运行;OpenAI、Anthropic、DeepSeek 和其他兼容 API 是用户自行选择的可选后端。
最低需要什么硬件?
来源称任何纯 CPU 设备都可运行最小量化模型,树莓派和 Orange Pi 也受支持;具体模型、生成或训练能力取决于内存、GPU/NPU 和集群中实际可用的后端。
工作节点如何防止局域网中的设备冒充?
首次连接只进入待配对状态;用户输入短配对码批准后,控制器才签发工作节点签名密钥,后续注册和心跳都需使用该密钥。也可使用地址加一次性 PIN 的手工配对模式。
升级或备份时最重要的数据在哪里?
控制器的持久状态集中在安装目录下的 data/,包括智能体状态、记忆索引、工作区、密钥数据库、调度历史、渠道凭据和模型。用户记忆索引还位于 ~/.cache/qmd/index.sqlite;升级命令为 bin/update.sh。
现在适合关键生产环境吗?
应谨慎评估。项目明确标记为面向自有硬件测试者的 Beta,并警告部分目录清单和管理流程仍可能失败;采用前应先在目标硬件上验证安装、恢复、模型与框架组合。

对比同类 Agent

用同一套 FARS 评审,横向比较这个 Agent 所属的短名单。

相关 Agents