AIOS:AI 智能体操作系统
将大语言模型嵌入操作系统,为 LLM 驱动的 AI 智能体提供调度、内存、存储、工具和 SDK 管理的统一平台。
证据显示:README 要求用户将 API 密钥直接写入配置文件,未提及最小权限原则或权限隔离;未发现用户确认机制;数据流不透明,未说明数据如何被处理或传输;敏感数据处理缺乏说明;依赖未固定版本,存在供应链风险;外部影响未明确,但存在网络调用和文件操作;回滚功能仅提及需要 redis,未说明具体机制;来源归属仅通过论文和仓库链接,未验证发布者身份。因此所有信任标准均得 0 分。
证据显示:README 和代码结构一致,模块划分清晰,自洽性较好;依赖列表包含多个未固定版本的包,且依赖外部服务(如 redis、ollama),可用性存在风险;失败消息未在文档中明确,但测试文件中有错误处理。因此自洽性得 2 分,依赖可用性得 1 分,失败消息得 1 分。
证据显示:README 明确了目标用户(开发者、用户)和多种部署模式,场景覆盖较广;能力边界通过模块划分和文档说明,但未明确限制;触发精度未详细说明,仅通过自然语言命令触发;环境适配提供了 CPU/GPU 安装选项,但未说明所有平台限制。因此分别得 2、2、1、2 分。
证据显示:README 结构清晰,包含架构、安装、快速开始等;安装说明详细,但依赖外部仓库;命名稳定性未明确,但版本号存在;示例和 FAQ 有部分示例,但无 FAQ;已知限制未明确列出;许可证文件为空,无法确认;版本变更记录未提供;维护责任未明确。因此分别得 2、2、1、2、1、0、1、1 分。
证据显示:输出可用性未明确说明,但提供了终端和 Web UI;边际价值较高,提供了多种功能;成本效益未评估,但需要多个 API 密钥和 GPU 资源。因此分别得 1、2、1 分。
证据显示:README 引用了多篇论文,但未提供具体实现细节;跨来源验证不足,仅依赖仓库自身;事实与推断未明确区分。因此分别得 2、1、1 分。
- API 密钥直接写入配置文件,存在泄露风险,建议使用环境变量或密钥管理服务。
- 依赖未固定版本,存在供应链攻击风险,建议锁定版本并定期更新。
- 许可证文件为空,无法确认开源许可,使用前需确认。
- 回滚功能依赖 redis,未说明数据持久化机制,可能导致数据丢失。
这个 Agent 能做什么,适合哪些场景?
AIOS 是一个将大语言模型(LLM)嵌入操作系统的 AI 智能体操作系统,旨在解决 LLM 智能体在开发和部署过程中的调度、上下文切换、内存管理、存储管理、工具管理和 Agent SDK 管理等问题。AIOS 由两部分组成:AIOS 内核(本仓库)和 AIOS SDK(Cerebrum 仓库)。AIOS 内核作为操作系统内核之上的抽象层,管理智能体所需的各类资源;AIOS SDK 则面向智能体用户和开发者,用于构建和运行智能体应用。AIOS 支持本地内核模式、远程内核模式和远程内核开发模式,并支持多种智能体框架(如 ReAct、Reflexion、AutoGen、MetaGPT)。AIOS 还提供了 Web UI 和终端 UI。
AIOS 内核接收智能体查询,通过系统调用链(syscalls)调度到各个模块执行,管理 LLM 核心、上下文管理器、内存管理器、存储管理器和工具管理器。支持的 LLM 后端包括 OpenAI、Anthropic、Gemini、Groq、HuggingFace、ollama、vLLM、Deepseek 和 Novita。它支持智能体的创建、调度、执行和记忆管理。AIOS 终端(基于 LLM 的语义文件系统)允许用户通过自然语言命令与文件系统交互。计算机使用智能体(LiteCUA)架构将工具管理器重构为虚拟机控制器和 MCP 服务器,提供沙箱环境。
- 智能体开发者需要在同一台机器上开发和测试多个 LLM 智能体,并希望通过统一的调度器管理 LLM 调用。
- 资源受限设备(如移动设备或边缘设备)的用户希望远程使用或开发智能体,利用远程内核模式连接到功能更强大的机器。
- 开发者希望快速集成多种智能体框架(如 AutoGen、MetaGPT),避免重复实现基础设施。
- 智能体用户希望利用 AIOS 终端以自然语言命令管理文件系统,替代传统命令行操作。
- 开发者需要构建计算机使用智能体,希望拥有沙箱环境来安全地执行 GUI 操作。
这个 Agent 有哪些优点和局限?
- 统一的平台管理 LLM 调用、内存、存储和工具,减少开发者重复工作。
- 支持多种 LLM 后端(OpenAI、Anthropic、HuggingFace、vLLM 等),避免供应商锁定。
- 无需修改即可集成多个智能体框架(AutoGen、MetaGPT 等)。
- 提供远程内核模式,支持资源受限设备。
- 提供可选的 Rust 重写计划,强调性能优化。
- 安装和配置相对复杂,需要多个步骤和 API 密钥。
- Python 版本仅支持 3.10 和 3.11,可能限制部分环境。
- 目前仅支持模式 1 和模式 2,模式 2.5、3、4 仍在开发中,功能不完全。
- 计算机使用智能体需要额外的虚拟化 GUI 环境。
- 文档可能尚未完全覆盖所有功能,用户需自行探索。
如何安装或部署这个 Agent?
克隆 AIOS 仓库,创建 Python 3.10 或 3.11 虚拟环境,然后根据 GPU/CPU 环境安装依赖(使用 uv 或 pip)。例如:git clone https://github.com/agiresearch/AIOS.git;python3.11 -m venv venv;source venv/bin/activate;uv pip install -r requirements-cuda.txt(GPU)或 requirements.txt(CPU)。之后克隆并安装 Cerebrum SDK:git clone https://github.com/agiresearch/Cerebrum.git;cd Cerebrum && uv pip install -e .。可选:为计算机使用智能体安装虚拟化环境(如 OSWorld)。
如何使用这个 Agent?
编辑 aiOS/config/config.yaml,配置 API 密钥和 LLM 模型(如 OpenAI、Deepseek、Ollama)。启动内核:bash runtime/launch_kernel.sh,或运行 python3.11 -m uvicorn runtime.launch:app --host 0.0.0.0 --port 8000。启动终端:python scripts/run_terminal.py,然后通过自然语言命令交互。要使用远程内核模式,需在 Cerebrum 配置中设置相同的主机和端口。要运行计算机使用智能体,请参照 Cerebrum 仓库说明。