ai-red-team

🐢 开源的 LLM 代理评估与测试库

Python 风险识别工具 PyRIT 是一个开源框架，旨在帮助安全专业人员与工程师主动识别生成式 AI 系统中的风险

用于执行 AI 红队演练训练（含基础设施）的 AI 红队演练实验室。

Agentic LLM 漏洞扫描器 / AI 红队测试套件 🧪

用于自动化 LLM 模糊测试的强大工具。旨在协助开发人员与安全性研究人员识别并减轻其 LLM API 中的潜在越狱问题。

用于 AI Agent 发现、侦察与道德评估的攻防安全工具集。

自主式 AI 渗透测试引擎，针对 Web、云端、身份验证、CI/CD、IaC、数据库、Active Directory、Kubernetes 与 IoT 固件进行持续性攻击安全测试。通过代理推理与真实漏洞执行提供验证。隐私网关设计确保 LLM 无法访问真实 IP、主机或凭证，数据不出边界

人工智能系统对抗性测试与安全评估的综合指南，协助组织在攻击者利用漏洞之前识别这些漏洞。