4KAgent 图像超分智能体
一个多智能体框架,把任意类型、任意退化程度的图像统一放大到 4K 分辨率。
- Star 数
- ★ 833
- 最近更新
- 1 年前
- License
- Apache-2.0
- 主语言
- Python
- FA 评分
- 40/100 · 缺口较多
30 秒速览
- 运行形态
- 可在哪里用
- 兼容但需适配
- 费用
- 软件免费,模型调用费用自付
- 上手难度
- 高 · 需要较重的基础设施
- 开始前需要
- 典型场景
- 影像研究者需要在 Set5、Urban100、DRealSR 等基准上复现或比较 4K 超分结果
- 不适合
- 没有 GPU 或显存有限、想跑 CPU 推理的用户
- 需要开箱即用一键安装、不想配置 Conda 和多模型的团队
- 只需要简单图像放大、不关心多智能体流程的场景
这个 Agent 能做什么,适合哪些场景?
4KAgent 是发表于 NeurIPS 2025 的智能体式图像超分辨率通用系统,目标是把任意图像统一提升到 4K 分辨率,覆盖经典退化、真实场景退化、极低质量输入、AI 生成图以及遥感、显微、病理、医学等科学成像。系统由一个感知智能体(Perception Agent)和一个复原智能体(Restoration Agent)组成:前者用大型视觉语言模型分析图像内容与失真并给出复原计划,后者按执行—反思—回滚流程递归调用各类复原与超分工具。每次复原步骤中,Q-MoE(质量驱动的专家混合)策略负责在候选中选出最优图像,另有独立的人脸复原流水线。用户通过 profile 文件定制不同任务的工具链,无需额外训练;推理入口为 infer_4kagent.py 命令行脚本,输出包含日志与中间图像的文件夹,并配套多种指标评测脚本。
4KAgent 读取输入目录中的图像,先由 Perception Agent 调用视觉语言模型(README 示例使用 llama_vision 或单独启动的 DepictQA 服务)判断内容与失真类型,生成复原计划;Restoration Agent 依据 profile(如 ExpSR_s4_F、ExpSR_s4_P、FastGen4K_P、OldP4K_P、GenMIR_P)选择并执行去模糊、去噪、增亮、伽马校正、超分等工具,通过执行—反思—回滚与 Q-MoE 策略逐步挑出最优结果,必要时启用 FaceRestore 使用 codeformer、gfpgan 等方法修复人脸。最终输出按图像组织的文件夹(含日志与各阶段图像),可用 utils/image_export.py 导出最终图,用 utils/toolchain_export.py 查看每张图实际使用的工具链,用 utils/face_restoration_tool_export.py 查看人脸复原工具。eval/ 下的脚本按任务计算 PSNR/SSIM/LPIPS 及 NIQE、MUSIQ、MANIQA、CLIPIQA 等无参考指标。
- 影像研究者需要在 Set5、Urban100、DRealSR 等基准上复现或比较 4K 超分结果
- 遥感从业者想把低分辨率航拍图(AID、DIOR、DOTA、WorldStrat)放大并做质量评估
- 医学或生物成像团队要增强显微、病理、X 光或超声图像
- 老照片修复场景,使用 OldP4K_P 档案提升低质量历史照片
- AI 绘图创作者想把生成图进一步提升到 4K 并用人脸流水线修复人像
- 需要自由组合多个复原工具、并记录每张图所用工具链的工程师
如何安装或部署这个 Agent?
安装步骤集中在仓库的 Installation Guide(installation/Installation.md),README 未完整展开。运行前需要在 config.yml 中填入 API 密钥。若要使用 DepictQA 作为感知模型的 VLM,需单独准备其环境:
cd ./DepictQA
conda activate depictqa如需下载 DIV4K-50 数据集:
python -m pip install "huggingface_hub[cli]"
huggingface-cli download --repo-type dataset YSZuo/DIV4K-50 --local-dir ./dataset/DIV4K-50
cd ./dataset/DIV4K-50
unzip DIV4K-50.zip如何使用这个 Agent?
先在 config.yml 填入 VLM 的 API 密钥。若使用 llama_vision 作为感知模型的 VLM,直接运行推理:
CUDA_VISIBLE_DEVICES=1 python infer_4kagent.py \
--input_dir ./assets/profile_test_example/classicsr \
--output_dir ./outputs/4KAgent_test/classicsr \
--profile_name ExpSR_s4_F \
--tool_run_gpu_id 2若使用 DepictQA,先在终端 A 启动服务,再在终端 B 推理(推荐 FastGen4K_P 档案,速度更快、感知质量较好):
# 终端 A
cd ./DepictQA
conda activate depictqa
CUDA_VISIBLE_DEVICES=0 python src/app_eval.py# 终端 B
CUDA_VISIBLE_DEVICES=1 python infer_4kagent.py \
--input_dir ./assets/profile_test_example/4ksr \
--output_dir ./outputs/4KAgent_test/4ksr \
--profile_name FastGen4K_P \
--tool_run_gpu_id 2可用任务档案还包括 OldP4K_P(老照片)与 GenMIR_P(多重退化复原)。自定义档案可参考 pipeline/profiles 中的示例,格式说明见 pipeline/profiles/profile_setup.md。
这个 Agent 有哪些优点和局限?
- 首个面向任意图像到 4K 的智能体式超分框架,任务覆盖从经典/真实退化到遥感、显微、医学与 AIGC
- 感知—复原双智能体设计,用 VLM 自动分析失真并生成复原计划,替代手工调参
- Q-MoE 策略配合执行—反思—回滚流程,在每步复原中筛选最优候选
- 通过 profile 文件切换任务,无需额外训练即可适配不同复原场景
- 提供 DIV4K-50 数据集与多套评测脚本,结果可复现、可比较
- 安装流程外包给 installation/Installation.md,README 本身未给出完整依赖清单
- 需要多块 GPU(README 中用 CUDA_VISIBLE_DEVICES 与 tool_run_gpu_id 区分),门槛较高
- 依赖外部 VLM:需在 config.yml 填 API 密钥,或额外启动 DepictQA 服务
- DepictQA 等工具与模型需按 Toolbox 逐一搭建,部署链路较长
- 评测结果需从 Google Drive 链接获取,仓库内不直接附带
这个 Agent 与同类方案有什么区别?
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| 4KAgent 图像超分智能体 当前 | 40 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 833 | 1 年前 | Python | — |
| veRL Agent RL 训练框架 | 32 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 2.4k | 4 个月前 | Python | — |
| AgileRL 强化学习库 | 71 · 存在缺口 | 代码库 / SDK免费版 + 付费版 | ★ 959 | 今天 | Python | — |
| Plexe:用自然语言构建机器学习模型 | 41 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 2.6k | 7 个月前 | Python | OpenAI API · Claude API |
FollowAgents 如何评估这个 Agent?
查看各维度的扣分理由
README 要求用户在 config.yml 中填入 API key,但未说明密钥如何存储、是否会被日志记录或外发;推理依赖外部 VLM 服务(llama_vision/depictqa),图像数据流向第三方未做透明说明,扣分。代码中未见用户确认机制,restoration agent 的 rollback 仅指算法层面的图像回退而非可恢复的系统操作,扣分。依赖安全方面仅见零散第三方工具与测试脚本,无依赖锁定或审计说明,扣分。来源归属较好:README 明确致谢 AgenticIR 及 Toolbox 中的开源工具,并给出引用。
README 与示例命令基本自洽,但配置文件、profile 命名(ExpSR_s4_F 与 ExpSR-s4-F 混用)存在不一致,扣分。依赖可用性仅指向 Installation.md(未提供内容),且需多 GPU、conda 环境与外部 VLM 服务,未见版本锁定,扣分。失败信息方面源码中无错误处理或诊断说明,扣分。
README 覆盖经典 SR、真实世界 SR、老照片、多退化、遥感、医学、AIGC 等多场景,受众与场景描述充分。但能力边界仅以宣传性表述呈现,未说明失败条件或不适用的图像类型;触发精度依赖 profile 名称与 VLM 判断,缺乏明确规则说明;环境适配要求特定 GPU 与外部服务,未见替代方案,均扣分。
README 结构清晰,含安装指引链接、推理示例、评估脚本与结果表,信息架构与示例较好。但安装细节依赖未提供的 Installation.md,profile 命名大小写/连字符不统一,未见版本号或 changelog,维护责任仅留个人邮箱且发布者身份未经验证,均扣分。LICENSE 为完整 Apache-2.0 文本,得分较高。
提供图像导出、工具链导出、人脸修复工具导出等实用脚本,输出可用性较好;对多类 SR 任务有明确增量价值。但运行需多 GPU、外部 VLM 服务与大量模型权重,成本较高且 README 未给出资源估算,成本效益扣分。
README 给出 arXiv 论文、项目页、数据集与结果链接,声明可追溯性较好;但结果仅以外部 Google Drive 链接呈现,仓库内无对应日志或复现脚本佐证,交叉印证不足;宣传性表述(如“first”“perfect-4K”)与事实推断未明确区分,扣分。
- 源码中未见:执行前用户确认开启或自行加上执行前确认;先在沙箱或测试环境跑通,确认行为后再接入真实数据。
- README 要求填写 API key 但未说明密钥存储与传输方式,使用外部 VLM 服务时图像数据可能外发,需自行评估隐私风险。
- 运行依赖多 GPU、conda 环境与外部 VLM 服务,安装细节位于未提供的 Installation.md,复现前需自行核实依赖版本。
- profile 命名在 README 中大小写与连字符不一致,可能导致命令执行失败。
- 结果仅以外部 Google Drive 链接提供,仓库内无对应日志或复现脚本,宣传性表述需谨慎对待。
- 发布者身份未经验证,维护责任仅留个人邮箱,长期支持与更新路径不明确。