Oumi 端到端基础模型平台

从数据准备、SFT/DPO/GRPO 训练到评测与部署的一站式开源平台,覆盖 10M 到 400B+ 参数模型。

源仓库
oumi-ai/oumi
Star 数
★ 9.4k
最近更新
1 天前
License
Apache-2.0
主语言
Python

30 秒速览

运行形态
命令行工具代码库 / SDK
可在哪里用
通用 · 跨平台Claude Code · OpenAI APIChatGPT · Claude API(部分支持)
费用
软件免费,模型调用费用自付
上手难度
高 · 需要较重的基础设施
开始前需要
PythonPyTorchDocker(可选安装方式)Shell / 命令行网络访问本地文件系统MCP Server
典型场景
团队要为自己的业务场景微调一个 Qwen3 或 Gemma 系列模型,希望直接用现成 YAML 配方跑 LoRA/QLoRA,而不是重写训练脚本。
不适合
  • 只想在网页里聊天、不打算写配置或跑命令的个人用户
  • 完全没有 GPU 环境、只做小规模试用的团队
  • 需要商业 SLA 与官方支持的闭源生产环境
官网
oumi.ai ↗ 来自 GitHub 仓库设置
维护状态
近 30 天有提交最近提交 2026-11-20最新版本 v0.9(2026-09-16)近 7 天每天 +1.1 ★

这个 Agent 能做什么,适合哪些场景?

Oumi 是一个完全开源、覆盖基础模型全生命周期的平台:数据合成与清洗、预训练与微调、评测、推理与部署。它提供统一的 oumi CLI,用 YAML 配方(recipes)驱动训练、评测、推理任务,避免用户自己编写训练循环和数据管道。训练侧支持 SFT、LoRA、QLoRA、DPO、GRPO 等方法,并通过 FSDP、DeepSpeed、DDP 做分布式扩展;推理侧集成 vLLM、SGLang 等引擎,也可通过 oumi deploy 部署到专用推理端点。除了文本模型,它还支持视觉语言模型(VLM)和工具调用型 Agent 模型:可以构建数据库、HTTP 端点、查表、模拟等可执行工具环境,并用 verl GRPO 在这些环境上做强化学习。评测方面提供标准基准测试以及多准则 RubricJudge、LLM-as-a-Judge 评判。运行时既能跑在笔记本上,也能通过 oumi launch 提交到 AWS、Azure、GCP、Lambda、Modal、Slurm 等集群或云平台。

Oumi 以 oumi 命令行工具为核心接口。用户编写或复用 configs/recipes 下的 YAML 配置,然后执行 oumi train -c <config> 启动训练(支持 SFT、LoRA、QLoRA、DPO、GRPO,底层为 PyTorch,可配合 FSDP/DeepSpeed/DDP);执行 oumi evaluate -c <config> 在标准基准或自定义评判器上评测模型;执行 oumi infer -c <config> --interactive 做交互式推理,可选用 vLLM、SGLang、Fireworks、OpenRouter 等引擎。数据侧,它读取原始语料,调用 LLM 评判器(包括 RubricJudge)做合成与筛选,生成多轮工具调用对话等训练数据。Agent 化训练时,它管理可执行的工具环境(数据库、HTTP 端点、查表、模拟),并用 verl GRPO 在这些环境中做强化学习。部署侧,oumi deploy 把模型发布到 Fireworks、Parasail 等专用推理端点;oumi launch up 把训练任务提交到云平台;oumi-mcp 提供 MCP 服务器供 Claude、Cursor 等客户端调用。oumi analyze 用于分析,/configs/recipes 则收录了 Qwen、Gemma、Llama、DeepSeek、GLM、Phi、OLMo、gpt-oss、Falcon 等模型的现成配置。

  1. 团队要为自己的业务场景微调一个 Qwen3 或 Gemma 系列模型,希望直接用现成 YAML 配方跑 LoRA/QLoRA,而不是重写训练脚本。
  2. 研究者要在多台 GPU 或云集群上做可复现的强化学习实验(GRPO),并需要 FSDP/DeepSpeed 这样的分布式支持。
  3. 开发者要训练一个会调用工具的 Agent 模型,需要构造数据库、HTTP 或查表类工具环境,并在其上做强化学习。
  4. 数据团队要用 LLM-as-a-Judge 或 RubricJudge 批量合成、筛选和清洗训练数据,包括视觉语言模型的数据整理。
  5. 工程团队要在本地或云上部署微调后的模型,通过 vLLM/SGLang 推理,或用 oumi deploy 发布到托管端点。
  6. 已经用 IDE 里的 AI 助手(如 Claude、Cursor)工作的开发者,想通过 oumi-mcp 这个 MCP 服务器直接驱动 Oumi 的任务流。

安装与配置要点

摘自下方的安装和使用说明,以项目 README 的最新说明为准。

安装 / 启动命令
  • uv pip install oumi
  • uv pip install 'oumi[gpu]'
  • uv pip install git+https://github.com/oumi-ai/oumi.git
  • docker pull ghcr.io/oumi-ai/oumi:latest
配置文件
configs/recipes/smollm/sft/135m/quickstart_train.yaml configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml configs/recipes/smollm/inference/135m_infer.yaml configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml
安装说明涉及
Docker

如何安装或部署这个 Agent?

README 推荐用 pip(uv)安装:

# 基础安装
uv pip install oumi

# 带 GPU 支持
uv pip install 'oumi[gpu]'

# 最新开发版
uv pip install git+https://github.com/oumi-ai/oumi.git

也提供 Docker 镜像与实验性的一键脚本:

docker pull ghcr.io/oumi-ai/oumi:latest
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --help
curl -LsSf https://oumi.ai/install.sh | bash

项目处于 beta 阶段,核心功能稳定,但部分高级功能可能变化;更完整的安装选项见官方安装文档。

如何使用这个 Agent?

基本流程是选一份 configs/recipes 下的 YAML 配置,用 oumi CLI 执行:

# 训练
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml

# 评测
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml

# 交互式推理
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive

把任务提交到云端时使用 oumi launch(示例);也可以把当前目录挂载进 Docker 后以 --config 方式训练:

oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml --resources.cloud aws
docker run --gpus all -v $(pwd):/workspace -it ghcr.io/oumi-ai/oumi:latest \
    oumi train --config /workspace/my_config.yaml

这个 Agent 有哪些优点和局限?

优点
  • 覆盖训练、评测、推理、合成数据、部署的完整流水线,一个 oumi CLI 加 YAML 配方即可上手,不必自写训练循环。
  • 训练方法齐全:SFT、LoRA、QLoRA、DPO、GRPO,并原生支持 FSDP、DeepSpeed、DDP 等分布式方案。
  • 支持在可执行工具环境(数据库、HTTP 端点、查表、模拟)上用 verl 做 GRPO 强化学习,面向工具调用型 Agent 模型。
  • 内置多准则 RubricJudge 与 LLM-as-a-Judge,兼顾标准基准测试与自定义评判。
  • 部署路径多样:vLLM/SGLang 本地推理、oumi deploy 发布专用端点、oumi-mcp 接入 Claude 与 Cursor,并可提交到 AWS/Azure/GCP/Lambda/Modal/Slurm。
  • Apache-2.0 许可,100% 开源,无厂商锁定。
局限
  • 项目仍处于 beta,README 明确指出部分高级功能可能随版本变化,生产采用需评估版本稳定性。
  • 完整能力依赖 GPU 与较大的 Python/PyTorch 环境,属于重型依赖,入门成本明显高于轻量工具。
  • 云端提交与专用端点部署依赖外部平台(AWS、Azure、GCP、Lambda、Modal、Slurm、Fireworks、Parasail 等)的账号与额度。
  • 模型覆盖虽广,但多数权重使用自定义许可(如 Llama、Gemma、Qwen),商用时需要逐个核对许可条款。
  • README 中大量更新条目日期在 2026 年,与实际发布节奏存在偏差,需要以 release 页面为准核实。

这个 Agent 与同类方案有什么区别?

与相关度最高的同类 agent 并排比较关键指标。

Agent 源码审查 形态 / 费用 Star 最近更新 主语言 完整支持的平台
Oumi 端到端基础模型平台 当前 63 · 存在缺口 命令行工具免费 + 模型费 ★ 9.4k 1 天前 Python Claude Code · OpenAI API
DeepEval 69 · 存在缺口 命令行工具免费 + 模型费 ★ 20k 1 天前 Python OpenAI API · Claude API
AI Agents 项目与教程集合 证据不足 代码库 / SDK免费 + 模型费 ★ 3k 14 天前 Jupyter Notebook OpenAI API · Claude API
LLM-in-Sandbox 47 · 缺口较多 命令行工具免费 + 模型费 ★ 249 3 个月前 Python OpenAI API · Claude API

FollowAgents 如何评估这个 Agent?

FollowAgents 源码审查 · FARS-2.1
存在缺口
63/ 100 五分制 3.2 / 5
信任安全 12/29
可靠稳定 6/14
适用触发 14/18
规范维护 14/18
有效结果 12/13
证据核验 5/8
查看各维度的扣分理由
信任安全12 / 29 · 2.1/5

代码提供 CLI、云端任务启动、部署及 MCP 接口,显示会产生本地、网络和云资源影响;快速安装脚本通过 curl 管道执行,但材料没有解释脚本内容、逐项权限、执行前确认或通用恢复流程,因此最小权限、确认、数据流、敏感信息处理、外部影响和回滚仅得 1。依赖有较多版本范围与针对兼容问题的注释,支持依赖维护得 2;Apache 许可证及代码版权头有明确归属,但发布者身份仍按题设视为未知,来源归属得 2。

可靠稳定6 / 14 · 2.1/5

README 声称生产级可靠,但同一材料称项目处于 beta;安装指南要求 Python 3.9+,而 pyproject.toml 要求 3.10 至 3.14,构成可指认的不一致,故自洽性得 1。依赖有许多约束和可选组,但未提供锁定或安装成功率证据,依赖可用性得 1。故障排查文档给出 Windows、Intel Mac、OOM、云挂载和推理问题的具体症状与处理方向,失败消息处理得 2。

适用触发14 / 18 · 3.9/5

文档覆盖研究者、开发者以及本地、集群和多个云平台场景,并展示训练、评估、推理与 agent 工具环境,受众和场景得 3。README 将配置列为示例而非穷尽支持范围,也指出高级功能可能变化;但材料未系统列出能力边界,得 2。CLI 入口、命令帮助和配置示例能让用户识别适用任务,触发精度得 2。文档明确 Intel Mac 不支持、建议 Windows 使用 WSL,并提供 GPU、云平台可选依赖,环境适配得 2。

规范维护14 / 18 · 3.9/5

README、安装指南、快速开始、故障排查和 pyproject 元数据形成清晰的信息结构,得 3。安装方式、Python 要求、可选依赖和验证命令均有说明,但快速安装脚本内容未展开,安装说明得 2。CLI 与包名保持 Oumi/oumi 主线,但文档 OSS、代码项目名及不同命令呈现略有差异,命名稳定性得 2。教程、配置示例、FAQ 和具体故障案例丰富,得 3。明确列出 beta 状态、Intel Mac 限制、Windows 建议和部分依赖兼容问题,但覆盖面并不完整,已知限制得 2。仓库提供完整 Apache-2.0 许可证,得 3。README 有带日期的版本与功能更新,但当前样本混合较新的未来日期和旧更新,且未见修订版本策略,版本记录得 2。安全报告路径和贡献流程有说明,但维护责任主要以团队/社区称谓呈现、未提供可核实的具体联系人,得 2。

有效结果12 / 13 · 4.6/5

统一 CLI、配置覆盖、丰富配方以及训练/评估/推理/云任务示例,产出具备较强的直接可用性,得 3。对开源模型微调、工具环境、RL、评估和部署提供一体化工作流,材料支持其相对单项脚本的显著增值,得 3。成本收益得 2:文档提示远程云服务可能产生费用并提醒拆除集群,也给出轻量模型快速开始,但未提供系统资源或费用估算。

证据核验5 / 8 · 3.1/5

README 的功能声明有 CLI 注册、配置路径、安装元数据和文档示例等材料交叉支撑,但广泛模型兼容及生产级质量主张在样本中缺乏逐项证据,主张可追溯性得 2。README、快速开始、安装文档、pyproject 和代码入口之间有多处相互印证,也存在 Python 版本要求不一致,交叉佐证得 2。文本能区分 beta、实验性安装脚本、支持示例与穷尽清单;但营销性能力主张与已验证事实未处处明确分开,得 2。

风险与缓解建议
  • 快速安装命令会把远程脚本直接交给 shell 执行;审阅材料未包含该脚本内容,使用前应先检查脚本来源与实际操作。
  • 安装文档的 Python 3.9+ 要求与项目元数据的 3.10 至 3.14 不一致;按项目元数据选择环境更稳妥。
  • 云端启动和部署可能产生费用并涉及凭据或文件挂载;快速开始明确提醒云服务费用及集群拆除会删除远程数据。
证据充分度:低 评估于 2026年11月8日 审查版本 4c0aa76443dd 评估后仓库已有新提交,评分可能未覆盖最新改动
查看完整评分方法 →
你是这个项目的维护者?把 FARS 徽章加到 README

徽章显示当前的评审分数和结论,点击回到本页。重新评审后约一小时内更新。

FARS

[![FARS 评测](https://followagents.com/badge/oumi.svg?lang=zh)](https://followagents.com/zh/agents/oumi)
<a href="https://followagents.com/zh/agents/oumi"><img src="https://followagents.com/badge/oumi.svg?lang=zh" alt="FARS 评测"></a>

最近版本

来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。

  1. v0.9
    发布说明摘录
    Oumi v0.9 Release Notes This release makes Oumi an end-to-end stack for agentic, tool-using models: you can now train on tool-calling data, execute tool calls against real environments (databases, HTTP endpoints, deterministic lookups, and model-simulated tools), synthesize multi-turn tool conversations, and run GRPO/RL over any of those environments with verl. It also adds a multi-criteria RubricJudge, partial-failure-tolerant inference/synthesis/judging, a Modal GPU launcher and SkyPilot-routed Slurm, and new Gemma 4 recipes. Highlights 🛠️ Tool-use training …
    在 GitHub 查看 ↗
  2. v0.8
    发布说明摘录
    Oumi v0.8 Release Notes This release lands the new oumi deploy CLI for shipping models to dedicated inference endpoints, an oumi-mcp server for MCP-capable assistants, batch-API parity across hosted providers, and a major dependency push to Transformersv5 / TRL 0.30+ / vLLM` 0.20+. Highlights oumi deploy — new CLI for dedicated inference endpoints …
    在 GitHub 查看 ↗
  3. v0.7
    发布说明摘录
    Oumi 0.7 Release ✨ Highlights This release brings major platform upgrades (Python 3.14, PyTorch 2.9), new inference engines, rule-based evaluation judges, and significant CLI/documentation improvements. --- 🚀 New Features Inference - Fireworks inference engine - New backend for Fireworks AI (#2158) ```yaml Fireworks example (set FIREWORKS_API_KEY env var) model: model_name: "accounts/fireworks/models/llama4-maverick-instruct-basic" engine: FIREWORKS ``` ```bash oumi infer -i -c configs/recipes/llama4/inference/maverick_instruct_fireworks_infer.yaml ``` …
    在 GitHub 查看 ↗

常见问题

需要 GPU 才能用吗?
训练和 GPU 推理需要 GPU,README 的安装说明提供了 uv pip install 'oumi[gpu]' 与带 --gpus all 的 Docker 路径;纯集成商业 API 的推理任务则可以不走本地 GPU。
用 Oumi 要额外付钱吗?
Oumi 本身以 Apache-2.0 开源发布,不收费;但调用 OpenAI、Anthropic、Vertex AI、Together、Fireworks 等商业 API,或使用 AWS/Azure/GCP 等云资源时,需自行承担相应费用。
能用它训练工具调用型 Agent 吗?
可以。README 说明支持工具调用 SFT/DPO、可执行工具环境(数据库、HTTP 端点、查表、模拟),以及基于 verl 的 GRPO 强化学习,并可做多轮工具调用对话的数据合成。
部署和线上服务怎么做?
可以用 vLLM、SGLang 做推理,用 oumi deploy 将模型发布到 Fireworks、Parasail 等专用推理端点;集群训练用 oumi launch up 提交到 AWS、Azure、GCP、Lambda 等。
支持哪些模型?
README 列出 Qwen(含 Qwen3、Qwen3.5、Qwen3-VL、Qwen3-Coder、QwQ)、Gemma(Gemma 3/4)、Llama(3.x/4)、DeepSeek R1、GLM、Phi、OLMo 3、gpt-oss、Falcon 等,并说明通过 Transformers 集成可扩展使用更多架构。
Oumi 端到端基础模型平台 官网是什么?
Oumi 端到端基础模型平台 的 GitHub 仓库填写的官网是 https://oumi.ai。这个链接由仓库作者设置;源码在 GitHub(oumi-ai/oumi)。
Oumi 端到端基础模型平台 免费吗?
软件本身免费,但 Oumi 端到端基础模型平台 要调用 AI 模型,模型的调用费用由你向模型服务商支付(也可以接本地模型)。
Oumi 端到端基础模型平台 开源吗?
开源。源码在 GitHub(oumi-ai/oumi),许可证是 Apache-2.0。
Oumi 端到端基础模型平台 安全吗?
FollowAgents 的 FARS 评审(2026年11月8日)给 Oumi 端到端基础模型平台 的“信任与安全”打了 12/29 分。评审检查的 8 项安全措施没有完全缺失的。评审之后仓库已有更新。
Oumi 端到端基础模型平台 还在维护吗?
在维护。GitHub 上最近一次提交是 2026-11-20,在最近 30 天内。最新版本是 v0.9(2026-09-16)。
Oumi 端到端基础模型平台 是谁开发的?
Oumi 端到端基础模型平台 由 GitHub 账号 oumi-ai 发布。FollowAgents 没有核实这个账号背后是哪个人或公司。
这页内容对你有帮助吗?
在 GitHub 查看 ↗ 安装 ↓

对比同类 Agent

用同一套 FARS 评审,横向比较这个 Agent 所属的短名单。

相关核心概念