CyberVerse 数字人助手
将语音对话、角色记忆与可选数字人视频部署为自托管实时助手。
- Star 数
- ★ 1.9k
- 最近更新
- 18 天前
- License
- GPL-3.0
- 主语言
- Python
- FA 评分
- 49/100 · 缺口较多
30 秒速览
- 运行形态
- 可在哪里用
- 通用 · 跨平台
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 高 · 需要较重的基础设施
- 开始前需要
- 典型场景
- 希望自托管语音助手的开发者,可关闭头像推理,将
inference.avatar.enabled设为false,仅部署实时语音会话。 - 不适合
- 只想快速试用的个人用户:需装 Node、Go、Conda、Python、FFmpeg 与多个音频库
- 没有 CUDA 12.8+ 显卡却想要实时数字人视频的团队
这个 Agent 能做什么,适合哪些场景?
CyberVerse 是一个自托管的实时数字人 Agent 框架,以 WebRTC 为实时交互基础,面向语音优先的角色化助手。系统将前台 PersonaAgent 与异步 SubAgent 分工:前者维持对话、处理打断和上下文切换,后者可执行搜索、研究、资料整理、摘要和 HTML 报告生成等长任务。角色对话历史会持久化到本地磁盘,导入的知识库、文档和人物资料会被索引用于 RAG。其插件化栈可替换 brain、voice、hearing、tools、memory 与 face,并可在 /settings 配置供应商密钥和端点。它可作为纯语音助手运行,也可选用本地 FlashHead、LiveAct 或云端数字人服务输出实时视频形象。
运行时由 config/cyberverse.yaml 控制,omni、LLM、embedding、TTS 和 ASR 定义从 infra/config/*_models/ 发现,并可由 config/*_models/ 覆盖。系统接收实时语音交互,调用配置的 ASR、LLM/omni 与 TTS 服务,保存并重载角色历史,并检索已索引的角色资料生成回答;后台 SubAgent 可异步完成搜索、研究、整理、摘要和 HTML 报告任务。开启 inference.avatar.enabled: true 后,Python inference 服务可按 config/avatar_models/ 中的模型配置驱动 FlashHead 或 LiveAct;Baidu Xiling 则由前端嵌入 H5 iframe,并使用 sendAudioData / AUDIO_STREAM_RENDER 发送音频。部署后通过 make inference、make server、make frontend 分别启动 Python 推理、Go API 和前端,健康检查为 GET /api/v1/health。
- 希望自托管语音助手的开发者,可关闭头像推理,将
inference.avatar.enabled设为false,仅部署实时语音会话。 - 需要长期保持角色设定的创作者,可为每个角色导入传记、文档或知识库,并利用本地持久化历史与 RAG 延续对话。
- 需要真人视频通话式交互的产品团队,可在具备 CUDA 12.8+ GPU、模型权重和相应配置时接入 FlashHead 或 LiveAct。
- 要让用户在对话中持续追问的研究型助手,可把搜索、资料整理、摘要或 HTML 报告生成交给异步 SubAgent,同时保持前台语音对话。
- 不愿维护本地头像 GPU 的部署者,可选择 Baidu Xiling、Xunfei Digital Human 或 Vidu S1 等文档列出的云端数字人路径。
如何安装或部署这个 Agent?
前置条件:Node 18+、Go 1.25、Conda、Python 3.10+、FFmpeg,以及 libopus-dev、libopusfile-dev、libsoxr-dev、pkg-config。
git clone https://github.com/dsd2077/CyberVerse.git
cd CyberVerse
conda create -n cyberverse python=3.10
conda activate cyberverse
cp -r infra/config config在 config/env 填入至少一种已列出的模型凭据,例如 DASHSCOPE_API_KEY,或 DOUBAO_ACCESS_TOKEN 与 DOUBAO_APP_ID。编辑 config/cyberverse.yaml 并设置:
inference:
avatar:
enabled: false然后执行:
make setup
pip install -e ".[all]"如何使用这个 Agent?
在三个终端分别启动:
conda activate cyberverse
make inferencemake servermake frontend用以下命令验证 API:
curl -s http://localhost:8080/api/v1/health随后在浏览器打开 http://localhost:5173。需要本地数字人视频时,安装 CUDA 12.8+ 对应的 PyTorch 与模型权重,将 inference.avatar.enabled 改为 true,并在 config/avatar_models/flash_head.yaml 或 config/avatar_models/live_act.yaml 配置模型路径。
这个 Agent 有哪些优点和局限?
- 前台 PersonaAgent 与异步 SubAgent 分离,文档明确说明长任务不会阻塞语音回合,且可在结果完成后返回。
- 角色历史持久化到本地磁盘,并支持导入资料后建立 RAG 索引,适合需要跨会话连续性的角色助手。
- 同一部署可在纯语音与可选数字人视频之间切换,视频可使用本地 FlashHead、LiveAct 或列出的云端数字人服务。
- 模型与供应商配置可通过内置目录、局部覆盖文件及
/settings管理;LiteLLM 插件提供统一接入多个 LLM 供应商的路径。
- 基础部署需要 Node、Go、Conda、Python、FFmpeg 及多项系统音频库,运行环境并不轻量。
- 本地数字人视频额外要求 CUDA 12.8+、PyTorch 2.8、模型权重和支持的 GPU;不同分辨率与模型的实时表现受 GPU 数量和性能影响。
- 默认语音能力依赖用户配置实时 voice/omni/LLM/TTS/ASR 供应商,文档明确指出运行成本取决于这些服务。
- 远程直连模式依赖浏览器可访问嵌入式 TURN 服务的
8443/TCP;云安全组、防火墙或 NAT 限制会导致 ICE 失败或发布超时。
这个 Agent 与同类方案有什么区别?
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| CyberVerse 数字人助手 当前 | 49 · 缺口较多 | 自托管服务免费 + 模型费 | ★ 1.9k | 18 天前 | Python | — |
| Sapphire Blue AI | 69 · 存在缺口 | 网页应用免费 + 模型费 | ★ 330 | 今天 | Python | OpenAI API · Claude API |
| PyGPT 桌面智能助手 | 56 · 缺口较多 | 桌面应用免费 + 模型费 | ★ 2k | 1 个月前 | Python | OpenAI API · Claude API |
| AgentCall join-meeting 技能 | 51 · 缺口较多 | Agent 插件 / 技能免费版 + 付费版 | ★ 184 | 15 天前 | Python | Codex · Claude Code |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
README 展示了可切换的模型和服务商、API 密钥配置位置,以及角色历史保存在本地磁盘;这为数据流提供了部分线索,因此给 1。材料没有说明最小权限、敏感数据保护、外部工具调用的用户确认或副作用控制;回滚机制也未见,相关项只给 0–1。README 列出若干模型和依赖来源,许可证明确标为 GPL-3.0,因此来源归属给 2;但依赖安全措施和维护者责任不清。
README 提供分步部署、健康检查和性能排查说明,服务代码也记录插件注册及初始化失败;这些使一般部署和部分故障可见。不同文件对运行所需版本和依赖的说明并非完整互证,且代码对插件初始化失败仅记录异常、未展示统一的用户可读恢复路径,因此整体给低分。
材料面向自托管部署者,并覆盖纯语音、GPU 数字人、云端数字人及多种模型配置,且说明了 GPU、端口和成本相关条件,场景和环境适配有实质内容。能力边界和何时选择各模式只部分说明;触发条件和交互权限政策未充分描述,因此不评满。
README 的功能、安装、配置、FAQ、故障排查和限制说明较完整,GPL-3.0 文本也在材料中,许可证项给 3。安装步骤虽具体,但需要多个运行时、外部权重和可选依赖,部分版本与文件配置仍需自行判断;命名与版本演进、维护责任和更新渠道说明不足,因此其余项目保留扣分。
产品所述的实时语音对话、角色记忆、RAG、工具和后台子任务有明确用途,文档还提供可操作的设置、诊断和性能调整步骤。价值与部署成本都有部分说明,但复杂依赖、GPU 资源和外部服务费用令普通使用成本不够完整,因此不评满。
README 对硬件性能、安装配置、RTP 诊断和相关依赖给出具体参数或步骤;源代码片段可支持部分插件初始化与错误记录说法,推断与文档陈述大体可区分。由于材料只是文件样本,产品主张与实现之间的交叉佐证有限,也没有足够依据验证宣传中的整体能力,故给部分分数。
- 源码中未见:回滚或恢复路径运行前先备份,或在 git 分支、快照上操作,确保改动可以撤销。
- 部署依赖多个运行时、可选 GPU 模型权重和外部服务;按所选模式核算硬件与服务费用,并确认凭据存储及访问保护。
- 示例包含数字人形象、云服务和外部模型权重;材料未充分说明这些素材的使用限制、数据保留策略或工具副作用确认方式。
最近版本
来自该项目 GitHub Releases 的最新发布记录,说明为上游原文摘录,未经本站改写或测试。
-
v0.1.0 CyberVerse v0.1.0
常见问题
纯语音模式是否需要本地头像 GPU?
inference.avatar.enabled 设为 false 后,CyberVerse 以纯语音助手运行;实际费用取决于所配置的实时语音、omni、LLM、TTS 和 ASR 供应商。本地视频头像支持哪些模型?
config/avatar_models/ 的模型配置文件中设置路径和参数。如何判断本地头像推理是否跟不上实时播放?
elapsed / (frames / fps)。RTP 大于 1 表示生成速度低于播放速度,可能出现视频延迟或卡顿。远程页面可打开但音视频无法连接,该检查什么?
streaming_mode: direct 且使用内置 TURN 时,先确认浏览器可访问服务器的 8443/TCP。若不可达,文档建议检查安全组、防火墙或 NAT,或使用 SSH 端口转发。谢谢反馈,我们会据此改进页面。