Oumi 端到端基础模型平台
从数据准备、SFT/DPO/GRPO 训练到评测与部署的一站式开源平台,覆盖 10M 到 400B+ 参数模型。
- 源仓库
- oumi-ai/oumi
- Star 数
- ★ 9.4k
- 最近更新
- 1 天前
- License
- Apache-2.0
- 主语言
- Python
- FA 评分
- 63/100 · 存在缺口
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台Claude Code · OpenAI APIChatGPT · Claude API(部分支持)
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 高 · 需要较重的基础设施
- 开始前需要
- 典型场景
- 团队要为自己的业务场景微调一个 Qwen3 或 Gemma 系列模型,希望直接用现成 YAML 配方跑 LoRA/QLoRA,而不是重写训练脚本。
- 不适合
- 只想在网页里聊天、不打算写配置或跑命令的个人用户
- 完全没有 GPU 环境、只做小规模试用的团队
- 需要商业 SLA 与官方支持的闭源生产环境
- 官网
- oumi.ai ↗ 来自 GitHub 仓库设置
- 维护状态
- 近 30 天有提交最近提交 2026-11-20最新版本 v0.9(2026-09-16)近 7 天每天 +1.1 ★
- 源码审查
- 63/100 · 存在缺口
这个 Agent 能做什么,适合哪些场景?
Oumi 是一个完全开源、覆盖基础模型全生命周期的平台:数据合成与清洗、预训练与微调、评测、推理与部署。它提供统一的 oumi CLI,用 YAML 配方(recipes)驱动训练、评测、推理任务,避免用户自己编写训练循环和数据管道。训练侧支持 SFT、LoRA、QLoRA、DPO、GRPO 等方法,并通过 FSDP、DeepSpeed、DDP 做分布式扩展;推理侧集成 vLLM、SGLang 等引擎,也可通过 oumi deploy 部署到专用推理端点。除了文本模型,它还支持视觉语言模型(VLM)和工具调用型 Agent 模型:可以构建数据库、HTTP 端点、查表、模拟等可执行工具环境,并用 verl GRPO 在这些环境上做强化学习。评测方面提供标准基准测试以及多准则 RubricJudge、LLM-as-a-Judge 评判。运行时既能跑在笔记本上,也能通过 oumi launch 提交到 AWS、Azure、GCP、Lambda、Modal、Slurm 等集群或云平台。
Oumi 以 oumi 命令行工具为核心接口。用户编写或复用 configs/recipes 下的 YAML 配置,然后执行 oumi train -c <config> 启动训练(支持 SFT、LoRA、QLoRA、DPO、GRPO,底层为 PyTorch,可配合 FSDP/DeepSpeed/DDP);执行 oumi evaluate -c <config> 在标准基准或自定义评判器上评测模型;执行 oumi infer -c <config> --interactive 做交互式推理,可选用 vLLM、SGLang、Fireworks、OpenRouter 等引擎。数据侧,它读取原始语料,调用 LLM 评判器(包括 RubricJudge)做合成与筛选,生成多轮工具调用对话等训练数据。Agent 化训练时,它管理可执行的工具环境(数据库、HTTP 端点、查表、模拟),并用 verl GRPO 在这些环境中做强化学习。部署侧,oumi deploy 把模型发布到 Fireworks、Parasail 等专用推理端点;oumi launch up 把训练任务提交到云平台;oumi-mcp 提供 MCP 服务器供 Claude、Cursor 等客户端调用。oumi analyze 用于分析,/configs/recipes 则收录了 Qwen、Gemma、Llama、DeepSeek、GLM、Phi、OLMo、gpt-oss、Falcon 等模型的现成配置。
- 团队要为自己的业务场景微调一个 Qwen3 或 Gemma 系列模型,希望直接用现成 YAML 配方跑 LoRA/QLoRA,而不是重写训练脚本。
- 研究者要在多台 GPU 或云集群上做可复现的强化学习实验(GRPO),并需要 FSDP/DeepSpeed 这样的分布式支持。
- 开发者要训练一个会调用工具的 Agent 模型,需要构造数据库、HTTP 或查表类工具环境,并在其上做强化学习。
- 数据团队要用 LLM-as-a-Judge 或 RubricJudge 批量合成、筛选和清洗训练数据,包括视觉语言模型的数据整理。
- 工程团队要在本地或云上部署微调后的模型,通过 vLLM/SGLang 推理,或用 oumi deploy 发布到托管端点。
- 已经用 IDE 里的 AI 助手(如 Claude、Cursor)工作的开发者,想通过 oumi-mcp 这个 MCP 服务器直接驱动 Oumi 的任务流。
安装与配置要点
摘自下方的安装和使用说明,以项目 README 的最新说明为准。
- 安装 / 启动命令
uv pip install oumiuv pip install 'oumi[gpu]'uv pip install git+https://github.com/oumi-ai/oumi.gitdocker pull ghcr.io/oumi-ai/oumi:latest
- 配置文件
configs/recipes/smollm/sft/135m/quickstart_train.yamlconfigs/recipes/smollm/evaluation/135m/quickstart_eval.yamlconfigs/recipes/smollm/inference/135m_infer.yamlconfigs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml- 安装说明涉及
- Docker
如何安装或部署这个 Agent?
README 推荐用 pip(uv)安装:
# 基础安装
uv pip install oumi
# 带 GPU 支持
uv pip install 'oumi[gpu]'
# 最新开发版
uv pip install git+https://github.com/oumi-ai/oumi.git也提供 Docker 镜像与实验性的一键脚本:
docker pull ghcr.io/oumi-ai/oumi:latest
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --helpcurl -LsSf https://oumi.ai/install.sh | bash项目处于 beta 阶段,核心功能稳定,但部分高级功能可能变化;更完整的安装选项见官方安装文档。
如何使用这个 Agent?
基本流程是选一份 configs/recipes 下的 YAML 配置,用 oumi CLI 执行:
# 训练
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml
# 评测
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml
# 交互式推理
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive把任务提交到云端时使用 oumi launch(示例);也可以把当前目录挂载进 Docker 后以 --config 方式训练:
oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml --resources.cloud awsdocker run --gpus all -v $(pwd):/workspace -it ghcr.io/oumi-ai/oumi:latest \
oumi train --config /workspace/my_config.yaml这个 Agent 有哪些优点和局限?
- 覆盖训练、评测、推理、合成数据、部署的完整流水线,一个 oumi CLI 加 YAML 配方即可上手,不必自写训练循环。
- 训练方法齐全:SFT、LoRA、QLoRA、DPO、GRPO,并原生支持 FSDP、DeepSpeed、DDP 等分布式方案。
- 支持在可执行工具环境(数据库、HTTP 端点、查表、模拟)上用 verl 做 GRPO 强化学习,面向工具调用型 Agent 模型。
- 内置多准则 RubricJudge 与 LLM-as-a-Judge,兼顾标准基准测试与自定义评判。
- 部署路径多样:vLLM/SGLang 本地推理、oumi deploy 发布专用端点、oumi-mcp 接入 Claude 与 Cursor,并可提交到 AWS/Azure/GCP/Lambda/Modal/Slurm。
- Apache-2.0 许可,100% 开源,无厂商锁定。
- 项目仍处于 beta,README 明确指出部分高级功能可能随版本变化,生产采用需评估版本稳定性。
- 完整能力依赖 GPU 与较大的 Python/PyTorch 环境,属于重型依赖,入门成本明显高于轻量工具。
- 云端提交与专用端点部署依赖外部平台(AWS、Azure、GCP、Lambda、Modal、Slurm、Fireworks、Parasail 等)的账号与额度。
- 模型覆盖虽广,但多数权重使用自定义许可(如 Llama、Gemma、Qwen),商用时需要逐个核对许可条款。
- README 中大量更新条目日期在 2026 年,与实际发布节奏存在偏差,需要以 release 页面为准核实。
这个 Agent 与同类方案有什么区别?
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| Oumi 端到端基础模型平台 当前 | 63 · 存在缺口 | 命令行工具免费 + 模型费 | ★ 9.4k | 1 天前 | Python | Claude Code · OpenAI API |
| DeepEval | 69 · 存在缺口 | 命令行工具免费 + 模型费 | ★ 20k | 1 天前 | Python | OpenAI API · Claude API |
| AI Agents 项目与教程集合 | 证据不足 | 代码库 / SDK免费 + 模型费 | ★ 3k | 14 天前 | Jupyter Notebook | OpenAI API · Claude API |
| LLM-in-Sandbox | 47 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 249 | 3 个月前 | Python | OpenAI API · Claude API |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
代码提供 CLI、云端任务启动、部署及 MCP 接口,显示会产生本地、网络和云资源影响;快速安装脚本通过 curl 管道执行,但材料没有解释脚本内容、逐项权限、执行前确认或通用恢复流程,因此最小权限、确认、数据流、敏感信息处理、外部影响和回滚仅得 1。依赖有较多版本范围与针对兼容问题的注释,支持依赖维护得 2;Apache 许可证及代码版权头有明确归属,但发布者身份仍按题设视为未知,来源归属得 2。
README 声称生产级可靠,但同一材料称项目处于 beta;安装指南要求 Python 3.9+,而 pyproject.toml 要求 3.10 至 3.14,构成可指认的不一致,故自洽性得 1。依赖有许多约束和可选组,但未提供锁定或安装成功率证据,依赖可用性得 1。故障排查文档给出 Windows、Intel Mac、OOM、云挂载和推理问题的具体症状与处理方向,失败消息处理得 2。
文档覆盖研究者、开发者以及本地、集群和多个云平台场景,并展示训练、评估、推理与 agent 工具环境,受众和场景得 3。README 将配置列为示例而非穷尽支持范围,也指出高级功能可能变化;但材料未系统列出能力边界,得 2。CLI 入口、命令帮助和配置示例能让用户识别适用任务,触发精度得 2。文档明确 Intel Mac 不支持、建议 Windows 使用 WSL,并提供 GPU、云平台可选依赖,环境适配得 2。
README、安装指南、快速开始、故障排查和 pyproject 元数据形成清晰的信息结构,得 3。安装方式、Python 要求、可选依赖和验证命令均有说明,但快速安装脚本内容未展开,安装说明得 2。CLI 与包名保持 Oumi/oumi 主线,但文档 OSS、代码项目名及不同命令呈现略有差异,命名稳定性得 2。教程、配置示例、FAQ 和具体故障案例丰富,得 3。明确列出 beta 状态、Intel Mac 限制、Windows 建议和部分依赖兼容问题,但覆盖面并不完整,已知限制得 2。仓库提供完整 Apache-2.0 许可证,得 3。README 有带日期的版本与功能更新,但当前样本混合较新的未来日期和旧更新,且未见修订版本策略,版本记录得 2。安全报告路径和贡献流程有说明,但维护责任主要以团队/社区称谓呈现、未提供可核实的具体联系人,得 2。
统一 CLI、配置覆盖、丰富配方以及训练/评估/推理/云任务示例,产出具备较强的直接可用性,得 3。对开源模型微调、工具环境、RL、评估和部署提供一体化工作流,材料支持其相对单项脚本的显著增值,得 3。成本收益得 2:文档提示远程云服务可能产生费用并提醒拆除集群,也给出轻量模型快速开始,但未提供系统资源或费用估算。
README 的功能声明有 CLI 注册、配置路径、安装元数据和文档示例等材料交叉支撑,但广泛模型兼容及生产级质量主张在样本中缺乏逐项证据,主张可追溯性得 2。README、快速开始、安装文档、pyproject 和代码入口之间有多处相互印证,也存在 Python 版本要求不一致,交叉佐证得 2。文本能区分 beta、实验性安装脚本、支持示例与穷尽清单;但营销性能力主张与已验证事实未处处明确分开,得 2。
- 快速安装命令会把远程脚本直接交给 shell 执行;审阅材料未包含该脚本内容,使用前应先检查脚本来源与实际操作。
- 安装文档的 Python 3.9+ 要求与项目元数据的 3.10 至 3.14 不一致;按项目元数据选择环境更稳妥。
- 云端启动和部署可能产生费用并涉及凭据或文件挂载;快速开始明确提醒云服务费用及集群拆除会删除远程数据。
最近版本
来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。
-
发布说明摘录
Oumi v0.9 Release Notes This release makes Oumi an end-to-end stack for agentic, tool-using models: you can now train on tool-calling data, execute tool calls against real environments (databases, HTTP endpoints, deterministic lookups, and model-simulated tools), synthesize multi-turn tool conversations, and run GRPO/RL over any of those environments with verl. It also adds a multi-criteria RubricJudge, partial-failure-tolerant inference/synthesis/judging, a Modal GPU launcher and SkyPilot-routed Slurm, and new Gemma 4 recipes. Highlights 🛠️ Tool-use training …在 GitHub 查看 ↗ -
发布说明摘录
Oumi v0.8 Release Notes This release lands the new oumi deploy CLI for shipping models to dedicated inference endpoints, an oumi-mcp server for MCP-capable assistants, batch-API parity across hosted providers, and a major dependency push to Transformersv5 / TRL 0.30+ / vLLM` 0.20+. Highlights oumi deploy — new CLI for dedicated inference endpoints …在 GitHub 查看 ↗ -
发布说明摘录
Oumi 0.7 Release ✨ Highlights This release brings major platform upgrades (Python 3.14, PyTorch 2.9), new inference engines, rule-based evaluation judges, and significant CLI/documentation improvements. --- 🚀 New Features Inference - Fireworks inference engine - New backend for Fireworks AI (#2158) ```yaml Fireworks example (set FIREWORKS_API_KEY env var) model: model_name: "accounts/fireworks/models/llama4-maverick-instruct-basic" engine: FIREWORKS ``` ```bash oumi infer -i -c configs/recipes/llama4/inference/maverick_instruct_fireworks_infer.yaml ``` …在 GitHub 查看 ↗
常见问题
需要 GPU 才能用吗?
用 Oumi 要额外付钱吗?
能用它训练工具调用型 Agent 吗?
部署和线上服务怎么做?
支持哪些模型?
Oumi 端到端基础模型平台 官网是什么?
Oumi 端到端基础模型平台 免费吗?
Oumi 端到端基础模型平台 开源吗?
Oumi 端到端基础模型平台 安全吗?
Oumi 端到端基础模型平台 还在维护吗?
Oumi 端到端基础模型平台 是谁开发的?
谢谢反馈,我们会据此改进页面。