开发与工程
NVIDIA NeMo Guardrails 库
为基于大语言模型的对话应用添加可编程护栏，实现安全、可信和可控的交互。
54 · 缺口较多
★ 7.3k · 3 天前
自动化与运维
AI-Infra-Guard（A.I.G）——腾讯朱雀实验室AI红队平台
一站式AI安全自检平台，集成ClawScan、Agent扫描、MCP/技能扫描、AI基础设施漏洞扫描及越狱评估，覆盖AI生态全链路风险。
48 · 缺口较多
★ 6.9k · 今天
自动化与运维
Agentic Security
面向 LLM 与智能体工作流的开源漏洞扫描器，用于检测越狱、模糊测试和多模态攻击。
45 · 缺口较多
★ 2k · 今天
自动化与运维
DeepTeam - LLM红队测试框架
对LLM和AI智能体进行安全渗透测试的开源框架，模拟越狱、提示注入等多轮攻击，提供生产级防护栏。
29 · 缺口较多
★ 3k · 2 天前