4KAgent 图像超分智能体

一个多智能体框架,把任意类型、任意退化程度的图像统一放大到 4K 分辨率。

Star 数
★ 833
最近更新
1 年前
License
Apache-2.0
主语言
Python

30 秒速览

运行形态
命令行工具
可在哪里用
兼容但需适配
费用
软件免费,模型调用费用自付
上手难度
高 · 需要较重的基础设施
开始前需要
Python 环境(Conda)CUDA GPUVLM 的 API 密钥(如 llama_vision / depictqa)huggingface_hub CLI(用于 DIV4K-50)Shell / 命令行网络访问本地文件系统
典型场景
影像研究者需要在 Set5、Urban100、DRealSR 等基准上复现或比较 4K 超分结果
不适合
  • 没有 GPU 或显存有限、想跑 CPU 推理的用户
  • 需要开箱即用一键安装、不想配置 Conda 和多模型的团队
  • 只需要简单图像放大、不关心多智能体流程的场景

这个 Agent 能做什么,适合哪些场景?

4KAgent 是发表于 NeurIPS 2025 的智能体式图像超分辨率通用系统,目标是把任意图像统一提升到 4K 分辨率,覆盖经典退化、真实场景退化、极低质量输入、AI 生成图以及遥感、显微、病理、医学等科学成像。系统由一个感知智能体(Perception Agent)和一个复原智能体(Restoration Agent)组成:前者用大型视觉语言模型分析图像内容与失真并给出复原计划,后者按执行—反思—回滚流程递归调用各类复原与超分工具。每次复原步骤中,Q-MoE(质量驱动的专家混合)策略负责在候选中选出最优图像,另有独立的人脸复原流水线。用户通过 profile 文件定制不同任务的工具链,无需额外训练;推理入口为 infer_4kagent.py 命令行脚本,输出包含日志与中间图像的文件夹,并配套多种指标评测脚本。

4KAgent 读取输入目录中的图像,先由 Perception Agent 调用视觉语言模型(README 示例使用 llama_vision 或单独启动的 DepictQA 服务)判断内容与失真类型,生成复原计划;Restoration Agent 依据 profile(如 ExpSR_s4_F、ExpSR_s4_P、FastGen4K_P、OldP4K_P、GenMIR_P)选择并执行去模糊、去噪、增亮、伽马校正、超分等工具,通过执行—反思—回滚与 Q-MoE 策略逐步挑出最优结果,必要时启用 FaceRestore 使用 codeformer、gfpgan 等方法修复人脸。最终输出按图像组织的文件夹(含日志与各阶段图像),可用 utils/image_export.py 导出最终图,用 utils/toolchain_export.py 查看每张图实际使用的工具链,用 utils/face_restoration_tool_export.py 查看人脸复原工具。eval/ 下的脚本按任务计算 PSNR/SSIM/LPIPS 及 NIQE、MUSIQ、MANIQA、CLIPIQA 等无参考指标。

  1. 影像研究者需要在 Set5、Urban100、DRealSR 等基准上复现或比较 4K 超分结果
  2. 遥感从业者想把低分辨率航拍图(AID、DIOR、DOTA、WorldStrat)放大并做质量评估
  3. 医学或生物成像团队要增强显微、病理、X 光或超声图像
  4. 老照片修复场景,使用 OldP4K_P 档案提升低质量历史照片
  5. AI 绘图创作者想把生成图进一步提升到 4K 并用人脸流水线修复人像
  6. 需要自由组合多个复原工具、并记录每张图所用工具链的工程师

如何安装或部署这个 Agent?

安装步骤集中在仓库的 Installation Guide(installation/Installation.md),README 未完整展开。运行前需要在 config.yml 中填入 API 密钥。若要使用 DepictQA 作为感知模型的 VLM,需单独准备其环境:

cd ./DepictQA
conda activate depictqa

如需下载 DIV4K-50 数据集:

python -m pip install "huggingface_hub[cli]"
huggingface-cli download --repo-type dataset YSZuo/DIV4K-50 --local-dir ./dataset/DIV4K-50
cd ./dataset/DIV4K-50
unzip DIV4K-50.zip

如何使用这个 Agent?

先在 config.yml 填入 VLM 的 API 密钥。若使用 llama_vision 作为感知模型的 VLM,直接运行推理:

CUDA_VISIBLE_DEVICES=1 python infer_4kagent.py \
  --input_dir ./assets/profile_test_example/classicsr \
  --output_dir ./outputs/4KAgent_test/classicsr \
  --profile_name ExpSR_s4_F \
  --tool_run_gpu_id 2

若使用 DepictQA,先在终端 A 启动服务,再在终端 B 推理(推荐 FastGen4K_P 档案,速度更快、感知质量较好):

# 终端 A
cd ./DepictQA
conda activate depictqa
CUDA_VISIBLE_DEVICES=0 python src/app_eval.py
# 终端 B
CUDA_VISIBLE_DEVICES=1 python infer_4kagent.py \
  --input_dir ./assets/profile_test_example/4ksr \
  --output_dir ./outputs/4KAgent_test/4ksr \
  --profile_name FastGen4K_P \
  --tool_run_gpu_id 2

可用任务档案还包括 OldP4K_P(老照片)与 GenMIR_P(多重退化复原)。自定义档案可参考 pipeline/profiles 中的示例,格式说明见 pipeline/profiles/profile_setup.md。

这个 Agent 有哪些优点和局限?

优点
  • 首个面向任意图像到 4K 的智能体式超分框架,任务覆盖从经典/真实退化到遥感、显微、医学与 AIGC
  • 感知—复原双智能体设计,用 VLM 自动分析失真并生成复原计划,替代手工调参
  • Q-MoE 策略配合执行—反思—回滚流程,在每步复原中筛选最优候选
  • 通过 profile 文件切换任务,无需额外训练即可适配不同复原场景
  • 提供 DIV4K-50 数据集与多套评测脚本,结果可复现、可比较
局限
  • 安装流程外包给 installation/Installation.md,README 本身未给出完整依赖清单
  • 需要多块 GPU(README 中用 CUDA_VISIBLE_DEVICES 与 tool_run_gpu_id 区分),门槛较高
  • 依赖外部 VLM:需在 config.yml 填 API 密钥,或额外启动 DepictQA 服务
  • DepictQA 等工具与模型需按 Toolbox 逐一搭建,部署链路较长
  • 评测结果需从 Google Drive 链接获取,仓库内不直接附带

这个 Agent 与同类方案有什么区别?

与相关度最高的同类 agent 并排比较关键指标。

Agent 源码审查 形态 / 费用 Star 最近更新 主语言 完整支持的平台
4KAgent 图像超分智能体 当前 40 · 缺口较多 命令行工具免费 + 模型费 ★ 833 1 年前 Python —
veRL Agent RL 训练框架 32 · 缺口较多 命令行工具免费 + 模型费 ★ 2.4k 4 个月前 Python —
AgileRL 强化学习库 71 · 存在缺口 代码库 / SDK免费版 + 付费版 ★ 959 今天 Python —
Plexe:用自然语言构建机器学习模型 41 · 缺口较多 命令行工具免费 + 模型费 ★ 2.6k 7 个月前 Python OpenAI API · Claude API

FollowAgents 如何评估这个 Agent?

FollowAgents 源码审查 · FARS-2.1
缺口较多
40/ 100 五分制 2.0 / 5
信任安全 10/29
可靠稳定 3/14
适用触发 8/18
规范维护 8/18
有效结果 7/13
证据核验 4/8
查看各维度的扣分理由
信任安全10 / 29 · 1.7/5

README 要求用户在 config.yml 中填入 API key,但未说明密钥如何存储、是否会被日志记录或外发;推理依赖外部 VLM 服务(llama_vision/depictqa),图像数据流向第三方未做透明说明,扣分。代码中未见用户确认机制,restoration agent 的 rollback 仅指算法层面的图像回退而非可恢复的系统操作,扣分。依赖安全方面仅见零散第三方工具与测试脚本,无依赖锁定或审计说明,扣分。来源归属较好:README 明确致谢 AgenticIR 及 Toolbox 中的开源工具,并给出引用。

可靠稳定3 / 14 · 1.1/5

README 与示例命令基本自洽,但配置文件、profile 命名(ExpSR_s4_F 与 ExpSR-s4-F 混用)存在不一致,扣分。依赖可用性仅指向 Installation.md(未提供内容),且需多 GPU、conda 环境与外部 VLM 服务,未见版本锁定,扣分。失败信息方面源码中无错误处理或诊断说明,扣分。

适用触发8 / 18 · 2.2/5

README 覆盖经典 SR、真实世界 SR、老照片、多退化、遥感、医学、AIGC 等多场景,受众与场景描述充分。但能力边界仅以宣传性表述呈现,未说明失败条件或不适用的图像类型;触发精度依赖 profile 名称与 VLM 判断,缺乏明确规则说明;环境适配要求特定 GPU 与外部服务,未见替代方案,均扣分。

规范维护8 / 18 · 2.2/5

README 结构清晰,含安装指引链接、推理示例、评估脚本与结果表,信息架构与示例较好。但安装细节依赖未提供的 Installation.md,profile 命名大小写/连字符不统一,未见版本号或 changelog,维护责任仅留个人邮箱且发布者身份未经验证,均扣分。LICENSE 为完整 Apache-2.0 文本,得分较高。

有效结果7 / 13 · 2.7/5

提供图像导出、工具链导出、人脸修复工具导出等实用脚本,输出可用性较好;对多类 SR 任务有明确增量价值。但运行需多 GPU、外部 VLM 服务与大量模型权重,成本较高且 README 未给出资源估算,成本效益扣分。

证据核验4 / 8 · 2.5/5

README 给出 arXiv 论文、项目页、数据集与结果链接,声明可追溯性较好;但结果仅以外部 Google Drive 链接呈现,仓库内无对应日志或复现脚本佐证,交叉印证不足;宣传性表述(如“first”“perfect-4K”)与事实推断未明确区分,扣分。

风险与缓解建议
  • 源码中未见:执行前用户确认开启或自行加上执行前确认;先在沙箱或测试环境跑通,确认行为后再接入真实数据。
  • README 要求填写 API key 但未说明密钥存储与传输方式,使用外部 VLM 服务时图像数据可能外发,需自行评估隐私风险。
  • 运行依赖多 GPU、conda 环境与外部 VLM 服务,安装细节位于未提供的 Installation.md,复现前需自行核实依赖版本。
  • profile 命名在 README 中大小写与连字符不一致,可能导致命令执行失败。
  • 结果仅以外部 Google Drive 链接提供,仓库内无对应日志或复现脚本,宣传性表述需谨慎对待。
  • 发布者身份未经验证,维护责任仅留个人邮箱,长期支持与更新路径不明确。
证据充分度:低 评估于 2026年10月20日 审查版本 04179ffed12c
查看完整评分方法 →

常见问题

能否只用一块 GPU 运行?
README 建议显存较大的 GPU 可将 tool_run_gpu_id 设为与 CUDA_VISIBLE_DEVICES 相同,但示例默认把它们分到不同 GPU,小显存单卡可能受限。
必须使用 DepictQA 吗?
不必。部分 profile 使用 llama_vision 作为感知智能体 VLM,可直接运行 infer_4kagent.py;使用 depictqa 的 profile(如 FastGen4K_P、OldP4K_P、GenMIR_P)则需先在单独终端启动 DepictQA 服务。
需要付费服务吗?
代码以 Apache-2.0 开源,但需在 config.yml 填入 VLM 的 API 密钥,且需要足够的 GPU 资源,实际成本取决于所选模型。
如何拿到最终结果图而不是整目录?
用 utils/image_export.py 把每张图的 output 提取到新目录并按原图命名,再用 eval/ 下对应脚本计算指标。
在 GitHub 查看 ↗ 安装 ↓

相关 Agents