Inferoa
推理原生的 Tokenmaxxing Agent Harness，让工程循环在缓存友好、可验证的条件下持续自纠直至工作被证明。
- Star 数
- ★ 566
- 最近更新
- 4 个月前
- License
- Apache-2.0
- 主语言
- TypeScript
- FA 评分
- 53/100 · 缺口较多
30 秒速览
- 运行形态
- 可在哪里用
- 兼容但需适配
- 费用
- 软件免费，模型调用费用自付
- 上手难度
- 中 · 需要几步配置
- 开始前需要
- 典型场景
- 开发者让 /loop 持续改进一个仓库并用测试证明改进完成。
- 不适合
- 不需要长循环推理、只想一次问答的轻量用户
- 不愿运维 vLLM 或自托管推理路径的团队
- 需要稳定版本（stable 发布）而非 dev 通道的用户
- 源码审查
- 53/100 · 缺口较多
这个 Agent 能做什么，适合哪些场景？
Inferoa 是 agentic-in 组织开源（Apache-2.0）的命令行 Agent Harness，核心主张是"Loop Engineering"：给模型目标、反馈、验证、记忆和工具，让它自纠直到工作被证明。它把每一次循环视为推理负载，通过 prompt epochs、确定性工具 schema 和有界系统段落保护可复用的前缀缓存，并暴露 token 压力。核心接口是一个 TUI，通过 /loop 启动跨循环任务的递归长时程循环，携带目标、验证证据、决策与恢复状态。它构建在 vLLM 生态之上，可按成本、安全、隐私、能力和会话压力在语义路由、vLLM Engine、vLLM Omni 及自托管路径之间选择模型。安装通过 npm 全局包 inferoa@dev 完成，属于开发者向的终端工具。
运行 inferoa setup 配置端点、模型、vault 托管 API 密钥和 Omni 配置后，inferoa 打开 TUI；传入提示词即开启会话并作为首个用户回合提交（如 inferoa "Inspect this repository and list the test entrypoints."）。/loop 启动递归长时程循环，跨循环任务维护目标、尝试、验证证据、决策与完成证据；/plan 将模糊范围转化为可检查的计划；/tokenmaxxing 展示前缀缓存复用、上下文节省、近期回合用量与模型选择压力。运行中它进行记忆与上下文控制（压缩、摘要、图状仓库上下文、有界历史与工具输出），并通过 CodeGraph 和 RTK 选择证据、缩减可变上下文。--print 支持单次非交互请求。
- 开发者让 /loop 持续改进一个仓库并用测试证明改进完成。
- 研究者用 Loop Research 在长时程会话中跑带验证指标的研究循环。
- 自托管 vLLM 的团队把模型路由留在自己的基础设施内，同时获得前缀缓存纪律。
- 工程师在执行前用 /plan 把模糊需求变成可检查的计划。
- 运维人员用 /tokenmaxxing 观察多模态与多模型路径下的 token 与成本压力。
如何安装或部署这个 Agent？
通过 npm 全局安装，@dev dist-tag 跟踪 main 分支的最新构建，latest 保留给稳定版：
npm install -g inferoa@dev安装后运行向导配置端点、模型、vault 托管 API 密钥与 Omni：
inferoa setup具体支持的推理端点类型与凭据格式详见官方文档（https://inferoa.agentic-in.ai/docs/quickstart）。
如何使用这个 Agent？
打开 TUI：
inferoa带提示词启动会话并作为首个用户回合提交：
inferoa "Inspect this repository and list the test entrypoints."在 TUI 内启动递归长时程循环：
/loop Improve this repository and prove it with tests.单次非交互请求：
inferoa --print "Summarize the README in one paragraph."其他核心命令：/plan（执行前生成可检查计划）、/tokenmaxxing（查看 token 与成本压力）。
这个 Agent 有哪些优点和局限？
- 以 Loop Engineering 为核心：/loop 跨任务保留目标、验证证据、决策与恢复，而非答完即止。
- 前缀缓存纪律（prompt epochs、确定性工具 schema、有界系统段落）直接降低多回合推理成本。
- 深度集成 vLLM 生态（Engine、Omni、Semantic Router），支持自托管模型路径与按成本/安全/隐私/能力的路由。
- 独立的反馈面（计划、测试、工具结果、研究指标、完成证据）让循环有具体可改进对象。
- 核心价值绑定 vLLM 生态，非 vLLM 用户需要适配或放弃部分路由与缓存能力。
- npm 的 stable/latest 通道尚未标注可用版本，当前文档安装路径是 @dev 构建通道。
- 需要完成端点、模型、vault API 密钥、Omni 等多步配置，起步成本高于单命令工具。
- 循环与验证的可靠性依赖模型与测试证据，README 未提供基准数据佐证 tokenmaxxing 收益。
这个 Agent 与同类方案有什么区别？
README 将其定位于 Loop Engineering 与 Agent Harness 层，与一次性问答式编码助手不同：Inferoa 的 /loop 会跨任务保留验证证据与决策，并以 vLLM 生态（Engine、Semantic Router、Omni）和 CodeGraph、RTK 作为上下文与路由基底。
与相关度最高的同类 agent 并排比较关键指标。
| Agent | 源码审查 | 形态 / 费用 | Star | 最近更新 | 主语言 | 完整支持的平台 |
|---|---|---|---|---|---|---|
| Inferoa 当前 | 53 · 缺口较多 | 命令行工具免费 + 模型费 | ★ 566 | 4 个月前 | TypeScript | — |
| Entroly | 68 · 存在缺口 | 命令行工具免费 + 模型费 | ★ 480 | 7 天前 | Python | Codex · Claude Code · OpenAI API · Claude API |
| CorvinOS | 67 · 存在缺口 | 命令行工具免费 + 模型费 | ★ 20 | 今天 | Python | Codex · Claude Code |
| Pilotfish 多模型編排層 | 81 · 表现良好 | Agent 插件 / 技能免费 + 模型费 | ★ 711 | 16 天前 | Python | Claude Code |
FollowAgents 如何评估这个 Agent？
查看各维度的扣分理由
权限模式、managed_installs: ask、web_search: off 等配置面在测试中出现，但未见强制执行代码，least_privilege 仅得1；clarify 工具的取消语义与安装确认给出 user_confirmation 2；缓存页脚展示用量与命中率支持 data_flow_transparency 2；仅 README 提及 vault-backed API key，无凭据处理细节，sensitive_data_handling 1；依赖极少且发布走 OIDC/受限令牌，dependency_security 2；循环体承诺自主编辑仓库，回滚与外部副作用控制在源文件中未见，external_effects 与 rollback 各扣至1；致谢与生态链接使 source_attribution 达2。
测试彼此一致、覆盖接受度前置检查与工具失败路径，self_consistency 2；CI 在 Node 24 上运行 npm test 且依赖固定，dependency_availability 2；测试断言了 clarify_unavailable、clarify_cancelled 等结构化错误码，failure_messages 2；未扣分的空间被一致性缺失的其余部分占据：接受度测试强制要求 direct vLLM 端点，若该约束影响日常使用需在文档中说明，目前未见。
README 明确定位 Loop Engineering 开发者并提供 /loop、/plan、--print 等场景，audience_and_scenarios 2；'直到工作被证明'等边界声明未附可审查的判据代码，capability_boundaries 1；斜杠命令语义清晰，trigger_precision 2；engines >=24 且拒绝 external-only 提供方表明环境边界明确，environment_fit 2。
文档站点结构链接齐全，information_architecture 2；安装与 quickstart 具体，但只推荐 @dev 标签、无故障排查，install_notes 2；命名（inferoa、tokenmaxxing、/loop）一致，naming_stability 2；有示例但无 FAQ，examples_and_faq 1；限制与风险未在可见文件中列出，known_limitations 1；LICENSE 为完整 Apache-2.0 且 package.json 一致，license 3；有 0.14.19、dist-tag 策略与发布坐标脚本，但无 CHANGELOG，versioning_changelog 2；有 CI 发布管道但无维护者/贡献指引文件，maintenance_responsibility 1。
TUI、缓存页脚、--print 模式表明输出可用性经过打磨，output_usability 2；tokenmaxxing/prefix-cache 视角有差异化价值，marginal_value 2；成本收益主要来自宣传性叙述而非可见证据（如节省数据），cost_benefit 1。
核心卖点（长循环、证明完成、缓存纪律）无对应可追溯的源码或数据，claim_traceability 1；全部佐证仅来自本仓库文件，外部链接与 GIF 不可静态核实，cross_source_corrorboration 不足，记1；README 营销语气与测试事实混在一处但未显式区分，fact_inference_separation 1。
- 发布者为未验证身份，使用前请自行确认仓库归属与供应链完整性。
- 核心能力（长时程循环、'工作被证明'、缓存收益）在提供的文件中缺少可追溯证据，属未验证声明。
- 循环模式默认自主编辑代码库，而回滚与外部副作用控制未见实现细节，建议在沙箱中先行试用。
- 推荐安装的是 @dev 滚动标签而非稳定版本，版本可复现性弱。
- 敏感数据仅依赖 'vault-backed API key' 一句描述，请核实密钥存储与传输实现。