小金丝雀注入探测器

这个 Agent 能做什么，适合哪些场景？

Little Canary 是面向智能体的不可信输入预检工具，先把文本交给没有工具和凭据的 canary 模型，再检查其行为是否出现变化。Python 的 SecurityPipeline 将结构检查与行为探测结合，返回 PASS、FLAG、BLOCK 或覆盖不足状态，供宿主按自身拦截能力执行。项目提供 little-canary CLI、Python 库以及仅绑定 loopback 的本地 HTTP 服务，也有 Claude Code、Gemini CLI、OpenAI Agents SDK 等宿主集成。默认实时探测依赖本机 Ollama 和可选的本地模型；StructuralFilter 与离线演示可不调用模型。它是纵深防御中的传感层，PASS 只表示本次检查未发现已覆盖的信号，并不保证内容安全。

对输入文本执行端到端预检：StructuralFilter 在本地查找已知可疑模式；启用 canary 时，SecurityPipeline 将不可信文本送入没有工具和凭据的模型，检查响应中的行为信号，再生成 verdict。可用 little-canary demo 演示离线记录回放，或以 --live 调用 Ollama；little-canary serve 在 127.0.0.1:18421 提供 /check 和 /health，默认仅建议告警，需 --mode block 才选择阻断策略。Python 应用可直接调用 SecurityPipeline.check()；little-canary screen 可逐项检查 JSONL。宿主集成会按各自拦截点处理结果，有些只能告警或限制后续工具权限。

1. 维护 Claude Code 工作流的开发团队，在 UserPromptSubmit 钩子处预检用户提示并阻止不安全输入。
2. 使用 Gemini CLI 的团队，在 BeforeAgent 阶段检查当前提示，并配置失败时告警或拒绝运行。
3. 接收网页、邮件或工具结果的智能体开发者，在将不可信文本交给主模型前执行预检。
4. Python 应用团队，通过 SecurityPipeline.check() 或本地 /check 服务接入结构与行为检查。
5. 处理 JSONL 文档的运营团队，使用 screen 做逐项判定，或用实验性的 ingest 生成带证据清单的准入结果。

如何安装或部署这个 Agent？

需要 Python 3.9+；离线演示和纯结构过滤不需要下载模型。实时 canary 路径需要安装 Ollama、启动服务并拉取模型。可直接安装 Python 包：

pip install little-canary

启动本地模型服务并下载默认模型：

ollama serve
ollama pull qwen2.5:1.5b

要作为宿主扩展使用，README 也记录了 Gemini CLI 的安装命令：

gemini extensions install https://github.com/hermes-labs-ai/little-canary

如何使用这个 Agent？

先运行离线演示，验证基本流程；这会回放打包的记录，不发起模型或网络调用：

little-canary demo

运行本地 canary 实时演示：

little-canary demo --live --backend ollama --model qwen2.5:1.5b --endpoint http://127.0.0.1:11434

启动默认建议模式的本地服务；如需阻断，显式设置 block：

little-canary serve --mode block --canary-model qwen2.5:1.5b --ollama-url http://127.0.0.1:11434

向服务提交待检文本：

curl -sS http://127.0.0.1:18421/check \
  -H 'Content-Type: application/json' \
  -d '{"text":"untrusted text"}'

Python 项目可安装同一包后导入 StructuralFilter；这只做结构检查，不代表行为层 PASS：

from little_canary import StructuralFilter

screen = StructuralFilter()
result = screen.check("Summarize this quarterly report.")
print(result.blocked, result.reasons)

这个 Agent 有哪些优点和局限？

这个 Agent 与同类方案有什么区别？

与相关度最高的同类 agent 并排比较关键指标。

FollowAgents 如何评估这个 Agent？

常见问题