ai-red-team

🐢 開源的 LLM 代理評估與測試函式庫

Python 風險識別工具 PyRIT 是一個開源框架，旨在幫助安全專業人員與工程師主動識別生成式 AI 系統中的風險

用於執行 AI 紅隊演練訓練（含基礎設施）的 AI 紅隊演練實驗室。

Agentic LLM 漏洞掃描器 / AI 紅隊測試套件 🧪

用於自動化 LLM 模糊測試的強大工具。旨在協助開發人員與安全性研究人員識別並減輕其 LLM API 中的潛在越獄問題。

用於 AI Agent 發現、偵察與道德評估的攻防安全工具集。

自主式 AI 滲透測試引擎，針對 Web、雲端、身分驗證、CI/CD、IaC、資料庫、Active Directory、Kubernetes 與 IoT 韌體進行持續性攻擊安全測試。透過代理推理與真實漏洞執行提供驗證。隱私閘道設計確保 LLM 無法存取真實 IP、主機或憑證，資料不出邊界

人工智慧系統對抗性測試與安全評估的綜合指南，協助組織在攻擊者利用漏洞之前識別這些漏洞。