Oumi 端到端基础模型平台

这个 Agent 能做什么，适合哪些场景？

Oumi 是一个完全开源、覆盖基础模型全生命周期的平台：数据合成与清洗、预训练与微调、评测、推理与部署。它提供统一的 oumi CLI，用 YAML 配方（recipes）驱动训练、评测、推理任务，避免用户自己编写训练循环和数据管道。训练侧支持 SFT、LoRA、QLoRA、DPO、GRPO 等方法，并通过 FSDP、DeepSpeed、DDP 做分布式扩展；推理侧集成 vLLM、SGLang 等引擎，也可通过 oumi deploy 部署到专用推理端点。除了文本模型，它还支持视觉语言模型（VLM）和工具调用型 Agent 模型：可以构建数据库、HTTP 端点、查表、模拟等可执行工具环境，并用 verl GRPO 在这些环境上做强化学习。评测方面提供标准基准测试以及多准则 RubricJudge、LLM-as-a-Judge 评判。运行时既能跑在笔记本上，也能通过 oumi launch 提交到 AWS、Azure、GCP、Lambda、Modal、Slurm 等集群或云平台。

Oumi 以 oumi 命令行工具为核心接口。用户编写或复用 configs/recipes 下的 YAML 配置，然后执行 oumi train -c <config> 启动训练（支持 SFT、LoRA、QLoRA、DPO、GRPO，底层为 PyTorch，可配合 FSDP/DeepSpeed/DDP）；执行 oumi evaluate -c <config> 在标准基准或自定义评判器上评测模型；执行 oumi infer -c <config> --interactive 做交互式推理，可选用 vLLM、SGLang、Fireworks、OpenRouter 等引擎。数据侧，它读取原始语料，调用 LLM 评判器（包括 RubricJudge）做合成与筛选，生成多轮工具调用对话等训练数据。Agent 化训练时，它管理可执行的工具环境（数据库、HTTP 端点、查表、模拟），并用 verl GRPO 在这些环境中做强化学习。部署侧，oumi deploy 把模型发布到 Fireworks、Parasail 等专用推理端点；oumi launch up 把训练任务提交到云平台；oumi-mcp 提供 MCP 服务器供 Claude、Cursor 等客户端调用。oumi analyze 用于分析，/configs/recipes 则收录了 Qwen、Gemma、Llama、DeepSeek、GLM、Phi、OLMo、gpt-oss、Falcon 等模型的现成配置。

1. 团队要为自己的业务场景微调一个 Qwen3 或 Gemma 系列模型，希望直接用现成 YAML 配方跑 LoRA/QLoRA，而不是重写训练脚本。
2. 研究者要在多台 GPU 或云集群上做可复现的强化学习实验（GRPO），并需要 FSDP/DeepSpeed 这样的分布式支持。
3. 开发者要训练一个会调用工具的 Agent 模型，需要构造数据库、HTTP 或查表类工具环境，并在其上做强化学习。
4. 数据团队要用 LLM-as-a-Judge 或 RubricJudge 批量合成、筛选和清洗训练数据，包括视觉语言模型的数据整理。
5. 工程团队要在本地或云上部署微调后的模型，通过 vLLM/SGLang 推理，或用 oumi deploy 发布到托管端点。
6. 已经用 IDE 里的 AI 助手（如 Claude、Cursor）工作的开发者，想通过 oumi-mcp 这个 MCP 服务器直接驱动 Oumi 的任务流。

如何安装或部署这个 Agent？

README 推荐用 pip（uv）安装：

# 基础安装
uv pip install oumi

# 带 GPU 支持
uv pip install 'oumi[gpu]'

# 最新开发版
uv pip install git+https://github.com/oumi-ai/oumi.git

也提供 Docker 镜像与实验性的一键脚本：

docker pull ghcr.io/oumi-ai/oumi:latest
docker run --gpus all -it ghcr.io/oumi-ai/oumi:latest oumi --help

curl -LsSf https://oumi.ai/install.sh | bash

项目处于 beta 阶段，核心功能稳定，但部分高级功能可能变化；更完整的安装选项见官方安装文档。

如何使用这个 Agent？

基本流程是选一份 configs/recipes 下的 YAML 配置，用 oumi CLI 执行：

# 训练
oumi train -c configs/recipes/smollm/sft/135m/quickstart_train.yaml

# 评测
oumi evaluate -c configs/recipes/smollm/evaluation/135m/quickstart_eval.yaml

# 交互式推理
oumi infer -c configs/recipes/smollm/inference/135m_infer.yaml --interactive

把任务提交到云端时使用 oumi launch（示例）；也可以把当前目录挂载进 Docker 后以 --config 方式训练：

oumi launch up -c configs/recipes/smollm/sft/135m/quickstart_gcp_job.yaml --resources.cloud aws

docker run --gpus all -v $(pwd):/workspace -it ghcr.io/oumi-ai/oumi:latest \
    oumi train --config /workspace/my_config.yaml

这个 Agent 有哪些优点和局限？

这个 Agent 与同类方案有什么区别？

与相关度最高的同类 agent 并排比较关键指标。

FollowAgents 如何评估这个 Agent？

常见问题