llm-security

開源 AI 滲透測試工具，用於發現並修復應用程式漏洞

即用型雲端範本，支援 RAG、AI 流程與企業搜尋即時資料。🐳相容 Docker。⚡持續與 Sharepoint、Google Drive、S3、Kafka、PostgreSQL、即時資料 API 等同步。

AI 代理的獨立審計。由人類或代理自行執行，以回答 AI 代理經濟中最關鍵的問題：代理是否在執行其應有的任務？使用 iFixAi，您可在 120 秒內得到答案。

LLM 漏洞掃描器

NeMo Guardrails 是一個開源工具包，能輕鬆為 LLM 會話系統加入可編程安全防護

全棧 AI Red Teaming 平台，通過 Agent Scan、Skills Scan、MCP Scan、AI Infra Scan 以及 LLM jailbreak 評估來保護 AI 生態系統。

🐢 開源的 LLM 代理評估與測試函式庫

安全執行路徑給代理 - 零信任、零設置、零延遲

[CCS'24] 数据集包含 15,140 条来自 Reddit、Discord、网站和开源数据集（包括 1,405 条越狱提示）的 ChatGPT 提示。

一套科學方法、流程、演算法與系統，用於構建故事與模型

開源 AI 增強型攻擊性安全套件。13+ 個自主代理、150+ 個 LLM 提供商、5,300+ 個模型、7,600+ 個 Ed25519 簽名攻擊技能、56+ 個內建工具、176+ 個 MCP 工具。支援 MITRE ATT&CK、OWASP WSTG、CIS Benchmarks。漏洞利用後階段：Linux/Windows/macOS/AWS/Azure/K8s/CI-CD。網頁 UI + Cloudflare Tunnel。您的 AI 紅隊。

一個安全的低程式碼欺騙執行時期框架，利用 AI 進行系統虛擬化。

Agentic LLM 漏洞掃描器 / AI 紅隊測試套件 🧪

用於自動化 LLM 模糊測試的強大工具。旨在協助開發人員與安全性研究人員識別並減輕其 LLM API 中的潛在越獄問題。

ADR 透過可觀測性、安全性基準測試與威脅偵測來保護企業 AI 代理。已部署於 Uber。

大型語言模型應用程式的 OWASP Top 10（GenAI 安全專案的一部分）

針對 LLM Agent 工作流程的安全性掃描器。

AI 優先的安全掃描器。v2026.7 新功能：Claude Code 遭駭檢測——在複製前審查 .claude/ hooks、權限與 skills，外加常駐的 AI 攻擊特徵掃描器以及原生 Rust 與 PHP 規則。另有：medusa scan --git 以審查任何 repo，medusa secrets scan 以尋找洩漏的 API 金鑰。40,000+ 種特徵，零設定。

一個易於使用的 Python 框架，用於產生對抗性越獄提示詞。

專為代理時代打造的 CLI 安全性掃描器。可偵測 CI/CD 設定錯誤、代理權限風險、MCP 工具注入、硬式編碼密鑰，以及遭 DMCA 標記的 AI 相依套件。

用於 MCP 安全與代理出口的開源 AI 代理防火牆。掃描經中介的 HTTP、MCP、A2A 與 WebSocket 流量以防範資料外洩、SSRF 和提示詞注入，並發出中介簽署的操作收據：來自代理外部的可驗證稽核證據。

針對 AI API 中繼與 LLM 代理的本機安全性稽核：偵測提示詞隱碼攻擊、模型替換、工具呼叫覆寫、SSE 異常、錯誤洩漏與 Web3 錢包風險。

Autonomous Offensive Security, Bug Bounty & Red Teaming Agent Framework powered by Hermes Agent, specialized reasoning skills, and multi-model LLM orchestration.

為每個 AI agent 提供具備 root、Docker 與 systemd 的獨立虛擬機。主動防禦可自動偵測並阻擋威脅。

AI 應用與代理的執行時期安全性：包含提示注入偵測、工具呼叫授權、敏感資料遮蔽、機器人防護與速率限制。可直接整合至您的 JS/TS 程式碼中。

與 LLM 安全與隱私相關的論文與資源

用於 AI Agent 與 MCP 伺服器的開源對抗模擬工具。

開源執行時期 AI Agent 安全工具，可即時監控並控制 AI Agent，在 Agent 執行動作前攔截惡意工具使用、提示詞注入及策略偏移。