llm-security

开源 AI 渗透测试工具，用于发现并修复应用漏洞

即用型云模板，支持 RAG、AI 流程与企业搜索实时数据。🐳兼容 Docker。⚡持续与 Sharepoint、Google Drive、S3、Kafka、PostgreSQL、实时数据 API 等同步。

AI 代理的独立审计。由人类或代理自行执行，以回答 AI 代理经济中最关键的问题：代理是否在执行其应有的任务？使用 iFixAi，您可在 120 秒内得到答案。

LLM 漏洞扫描器

NeMo Guardrails 是一个开源工具包，能轻松为 LLM 对话系统加入可编程安全防护

全栈 AI Red Teaming 平台，通过 Agent Scan、Skills Scan、MCP Scan、AI Infra Scan 以及 LLM jailbreak 评估来保护 AI 生态系统。

🐢 开源的 LLM 代理评估与测试库

安全执行路径给代理 - 零信任、零设置、零延迟

[CCS'24] 数据集包含 15,140 条来自 Reddit、Discord、网站和开源数据集（包括 1,405 条越狱提示）的 ChatGPT 提示。

一套科学方法、流程、算法与系统，用于构建故事与模型

开源 AI 增强型攻击性安全套件。13+ 个自主代理、150+ 个 LLM 提供商、5,300+ 个模型、7,600+ 个 Ed25519 签名攻击技能、56+ 个内置工具、176+ 个 MCP 工具。支持 MITRE ATT&CK、OWASP WSTG、CIS Benchmarks。漏洞利用后阶段：Linux/Windows/macOS/AWS/Azure/K8s/CI-CD。网页 UI + Cloudflare Tunnel。您的 AI 红队。

一个安全的低代码欺骗运行时框架，利用 AI 进行系统虚拟化。

Agentic LLM 漏洞扫描器 / AI 红队测试套件 🧪

用于自动化 LLM 模糊测试的强大工具。旨在协助开发人员与安全性研究人员识别并减轻其 LLM API 中的潜在越狱问题。

ADR 通过可观测性、安全性基准测试与威胁检测来保护企业 AI 代理。已部署于 Uber。

大型语言模型应用程序的 OWASP Top 10（GenAI 安全项目的一部分）

针对 LLM Agent 工作流程的安全性扫描器。

AI 优先的安全扫描器。v2026.7 新功能：Claude Code 遭入侵检测——在克隆前审查 .claude/ hooks、权限与 skills，外加常驻的 AI 攻击特征扫描器以及原生 Rust 与 PHP 规则。另有：medusa scan --git 以审查任何 repo，medusa secrets scan 以寻找泄露的 API 密钥。40,000+ 种特征，零配置。

一个易于使用的 Python 框架，用于生成对抗性越狱提示词。

专为代理时代打造的 CLI 安全性扫描器。可检测 CI/CD 配置错误、代理权限风险、MCP 工具注入、硬编码密钥，以及遭 DMCA 标记的 AI 依赖项。

用于 MCP 安全与代理出口的开源 AI 代理防火墙。扫描经中介的 HTTP、MCP、A2A 与 WebSocket 流量以防范数据外泄、SSRF 和提示词注入，并发出中介签署的操作收据：来自代理外部的可验证审计证据。

针对 AI API 中继与 LLM 代理的本地安全性审计：检测提示詞注入、模型替换、工具调用重写、SSE 异常、错误泄露与 Web3 钱包风险。

Autonomous Offensive Security, Bug Bounty & Red Teaming Agent Framework powered by Hermes Agent, specialized reasoning skills, and multi-model LLM orchestration.

为每个 AI agent 提供具备 root、Docker 与 systemd 的独立虚拟机。主动防御可自动检测并阻断威胁。

AI 应用与代理的运行时安全性：包含提示注入检测、工具调用授权、敏感数据遮蔽、机器人防护与速率限制。可直接整合至您的 JS/TS 代码中。

与 LLM 安全与隐私相关的论文与资源

用于 AI Agent 与 MCP 服务器的开源对抗模拟工具。

开源运行时 AI Agent 安全工具，可实时监控并控制 AI Agent，在 Agent 执行动作前拦截恶意工具使用、提示词注入及策略偏移。