KAOS — K8s Agent 编排系统

这个 Agent 能做什么，适合哪些场景？

KAOS（K8s Agent Orchestration System）是一个 Kubernetes 原生框架，通过自定义资源（Agent、MCPServer、ModelAPI）部署和编排 AI Agent。其核心是一个 Go 编写的 Operator，包含 Agent Controller、MCPServer Controller 和 ModelAPI Controller 三个控制器，分别管理 Agent Pod、MCP 工具 Pod 和模型服务 Pod（支持 Ollama/LiteLLM）。Agent 运行时基于 PAIS（Pydantic AI Server），在 Pydantic AI 之上提供 OpenAI 兼容的 /v1/chat/completions HTTP API、分布式记忆、多 Agent 委托、A2A 发现、健康探针和 OpenTelemetry 埋点。用户可通过 kaos CLI 一键安装和管理，也可用 Helm 直接部署 Operator，并通过 Web UI 监控 Agent、测试对话和调试记忆与工具。项目采用 Apache-2.0 许可证，要求 Kubernetes >=1.28。

KAOS 的 Operator 持续监听三类 CRD：ModelAPI（以 Hosted 模式运行 Ollama/LiteLLM 等模型服务）、MCPServer（通过 Model Context Protocol 提供工具，可由 python-runtime 动态定义，如 tools.fromString 内嵌 Python 函数）和 Agent（绑定 modelAPI 与 mcpServers，支持 agentNetwork 定义层级多 Agent 网络）。部署后，每个 Agent 以 Pod 形式运行 PAIS 运行时，暴露 /v1/chat/completions 端点，可被 kubectl port-forward 后用 curl 调用。协调者 Agent 可自动将任务委托给 researcher、analyst 等专家 Agent。kaos CLI 提供 kaos system install、kaos modelapi deploy、kaos agent deploy、kaos agent invoke、kaos ui（打开 Web UI 并运行 kubectl proxy，可选 --monitoring-enabled 启用遥测）等命令；示例 YAML 在 operator/config/samples/ 下。

1. 平台工程团队需要把多个 AI Agent 作为 K8s 资源统一部署、扩缩和监控时
2. 需要构建层级式多 Agent 系统（协调者自动委托给专家 Agent）的团队
3. 希望通过 MCP 标准为 Agent 挂载自定义 Python 工具的开发者
4. 已有内部 LLM 网关或 Ollama，希望 Agent 通过 OpenAI 兼容接口被现有应用调用的团队
5. 需要可视化监控 Agent 运行状态、测试对话并调试记忆与工具的运维人员
6. 使用 kind 环境进行端到端测试的 CI/CD 流水线

如何安装或部署这个 Agent？

方式一：通过 CLI 安装（需要已配置的 Kubernetes 集群、kubectl 和 Helm）：

pip install kaos-cli
kaos system install

方式二：通过 Helm 直接安装 Operator：

helm repo add kaos https://axsaucedo.github.io/kaos/charts
helm repo update
helm install kaos kaos/kaos-operator -n kaos-system --create-namespace

开发环境运行测试：

cd python && uv sync && uv run pytest tests/ -v
cd operator && make test
cd operator && make kind-create
cd operator && make kind-e2e-run-tests

如何使用这个 Agent？

用 CLI 部署并调用 Agent：

kaos modelapi deploy my-api --mode Hosted --model "smollm2:135m"
kaos agent deploy my-agent --modelapi my-api --model "smollm2:135m"
kaos agent invoke my-agent --message "Hello"
kaos ui
kaos ui --monitoring-enabled

或用 YAML 声明式部署（simple-agent.yaml）：

apiVersion: kaos.tools/v1alpha1
kind: ModelAPI
metadata:
  name: ollama
spec:
  mode: Hosted
  hostedConfig:
    model: "smollm2:135m"
---
apiVersion: kaos.tools/v1alpha1
kind: MCPServer
metadata:
  name: echo-tools
spec:
  type: python-runtime
  config:
    tools:
      fromString: |
        def echo(message: str) -> str:
            """Echo back the message."""
            return f"Echo: {message}"
---
apiVersion: kaos.tools/v1alpha1
kind: Agent
metadata:
  name: assistant
spec:
  modelAPI: ollama
  mcpServers:
    - echo-tools
  config:
    description: "AI assistant with echo tools"
    instructions: "You are a helpful assistant."
    env:
      - name: MODEL_NAME
        value: "ollama/smollm2:135m"

kubectl apply -f simple-agent.yaml
kubectl wait --for=condition=ready pod -l agent=assistant --timeout=120s
kubectl port-forward svc/agent-assistant 8000:8000
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "assistant", "messages": [{"role": "user", "content": "Hello!"}]}'

多 Agent 系统中，协调者 Agent 通过 agentNetwork.access 列出可委托的专家 Agent：

apiVersion: kaos.tools/v1alpha1
kind: Agent
metadata:
  name: coordinator
spec:
  modelAPI: ollama
  config:
    description: "Coordinator that delegates to specialists"
    instructions: "Delegate research to researcher, calculations to analyst."
  agentNetwork:
    access:
      - researcher
      - analyst

完整多 Agent 示例见 operator/config/samples/。

这个 Agent 有哪些优点和局限？

这个 Agent 与同类方案有什么区别？

与相关度最高的同类 agent 并排比较关键指标。

FollowAgents 如何评估这个 Agent？

最近版本

来自该项目 GitHub Releases 的最新发布记录，说明为上游原文摘录，未经本站改写或测试。

1. v0.8.5 2026-10-30
   发布说明摘录

   What's Changed * chore: bump version to 0.8.5-dev by @github-actions[bot] in https://github.com/axsaucedo/kaos/pull/381 * chore(deps): bump the all group across 1 directory with 41 updates by @dependabot[bot] in https://github.com/axsaucedo/kaos/pull/384 * chore(deps-dev): bump brace-expansion from 5.0.8 to 5.0.12 in /kaos-ui in the all-security group across 1 directory by @dependabot[bot] in https://github.com/axsaucedo/kaos/pull/378 * chore(deps): bump the uv group across 3 directories with 2 updates by @dependabot[bot] in https://github.com/axsaucedo/kaos/pull/382 …

   在 GitHub 查看 ↗
2. v0.8.4 2026-10-16
   发布说明摘录

   Overview KAOS v0.8.4 is a dependency-maintenance release. It carries three grouped Dependabot updates — the Go control-plane modules, the Python lock set across all four Python directories, and 36 npm packages in kaos-ui — together with a change to how Dependabot proposes major versions in the first place. There are no changes to KAOS's own runtime code. There are no CRD, API, wire-format or Helm chart changes, and no behavioural changes to the operator, agent runtime, memory service, CLI or UI. Upgrading from v0.8.3 requires no migration. Highlights Control plane …

   在 GitHub 查看 ↗
3. v0.8.3 2026-10-10
   发布说明摘录

   Overview KAOS v0.8.3 is a maintenance release. It carries one grouped Dependabot update of eight npm packages in kaos-ui, all minor or patch, together with a fix to the memory-service test environment in CI. There are no changes to KAOS's own runtime code. There are no CRD, API or wire-format changes, and no behavioural changes to the operator, agent runtime, memory service or CLI. Upgrading from v0.8.2 requires no migration. Highlights UI - One grouped update of eight dependencies, all minor or patch: lucide-react …

   在 GitHub 查看 ↗

常见问题