llm-security

Open-source KI-Penetrationstest-Tool, um Ihre App-Schwachstellen zu finden und zu beheben.

Bereits einsatzbereite Cloud-Vorlagen für RAG, KI-Pipelines und Unternehmenssuche mit Live-Daten. 🐳Docker-freundlich.⚡Immer synchron mit Sharepoint, Google Drive, S3, Kafka, PostgreSQL, Echtzeit-Daten-APIs und mehr.

Unabhängige Prüfung von KI-Agenten. Ausgeführt von Menschen oder dem Agenten selbst, um die wichtigste Frage in der KI-Agenten-Wirtschaft zu beantworten: Tut der Agent das, was er tun soll? Mit iFixAi erhalten Sie diese Antwort in weniger als 120 Sekunden.

Der LLM-Schwachstellenscanner

NeMo Guardrails ist ein Open-Source-Toolkit zum einfachen Hinzufügen programmierbarer Schutzmaßnahmen zu LLM-basierten Dialogsystemen.

Eine Full-Stack-KI-Red-Teaming-Plattform zur Sicherung von KI-Ökosystemen über Agent Scan, Skills Scan, MCP Scan, AI Infra Scan und LLM-Jailbreak-Evaluierung.

🐢 Open-Source-Evaluierungs- und Testbibliothek für LLM-Agenten

Sichere Ausführungspfade für Agenten – Zero Trust, Zero Setup, Zero Latenz.

[CCS'24] Ein Datensatz bestehend aus 15.140 ChatGPT-Prompts aus Reddit, Discord, Websites und Open-Source-Datensätzen (einschließlich 1.405 Jailbreak-Prompts).

Eine Sammlung wissenschaftlicher Methoden, Prozesse, Algorithmen und Systeme zum Erstellen von Geschichten und Modellen.

Open-Source-KI-gestütztes Framework für offensive Sicherheit und automatisierte Penetrationstests.

Ein sicheres, Low-Code-basiertes Deception-Runtime-Framework, das KI für die Systemvirtualisierung nutzt.

Agentenbasierter LLM-Schwachstellenscanner / KI-Red-Teaming-Kit 🧪

Ein leistungsstarkes Tool für automatisiertes LLM-Fuzzing. Es wurde entwickelt, um Entwicklern und Sicherheitsforschern dabei zu helfen, potenzielle Jailbreaks in ihren LLM-APIs zu identifizieren und zu entschärfen.

ADR sichert Enterprise-KI-Agenten durch Observability, Sicherheits-Benchmarking und Bedkennung ab. Im Einsatz bei Uber.

OWASP Top 10 für Large Language Model Apps (Teil des GenAI Security Project)

Ein Sicherheits-Scanner für Ihre LLM-Agenten-Workflows

KI-zordinierter Sicherheitsscanner. NEU in v2026.7: Erkennung von Claude Code-Kompromittierungen — Überprüfung von .claude/-Hooks, Berechtigungen und Skills vor dem Klonen — sowie ein permanenter KI-Angriffssignatur-Scanner und native Rust- und PHP-Regeln. Außerdem: medusa scan --git zum Prüfen jedes Repositories, medusa secrets scan für geleakte API-Schlüssel. Über 40.000 Muster, null Einrichtung.

Ein benutzerfreundliches Python-Framework zum Generieren adversarialer Jailbreak-Prompts.

CLI-Sicherheitsscanner für das Zeitalter autonomer Agenten. Erkennt CI/CD-Fehlkonfigurationen, Agenten-Berechtigungsrisiken, MCP-Tool-Injection, hartkodierte Secrets und DMCA-gekennzeichnete KI-Abhängigkeiten.

Open-Source-KI-Agenten-Firewall für MCP-Sicherheit und Agenten-Egress. Scannt vermittelten HTTP-, MCP-, A2A- und WebSocket-Traffic auf Exfiltration, SSRF und Prompt-Injection und gibt vom Mediator signierte Aktionsbelege aus: verifizierbare Audit-Nachweise von außerhalb des Agenten.

Lokales Sicherheitsaudit für KI-API-Relays und LLM-Proxies: Erkennt Prompt-Injection, Modellersetzung, Tool-Call-Rewriting, SSE-Anomalien, Fehlerlecks und Web3-Wallet-Risiken.

Autonomous Offensive Security, Bug Bounty & Red Teaming Agent Framework powered by Hermes Agent, specialized reasoning skills, and multi-model LLM orchestration.

Gibt jedem AI-Agenten eine eigene isolierte Maschine mit Root, Docker und systemd. Die aktive Abwehr erkennt und stoppt Bedrohungen automatisch.

Laufzeitsicherheit für KI-Anwendungen und -Agenten: Erkennung von Prompt-Injections, Tool-Call-Autorisierung, Schwärzung sensibler Daten, Bot-Schutz und Rate Limiting. Einfach in Ihren JS/TS-Code integrierbar.

Papiere und Ressourcen zur Sicherheit und zum Datenschutz von LLMs.

Open-Source-Gegneremulation für KI-Agenten und MCP-Server.

Open-Source-Laufzeit-Sicherheitstool für KI-Agenten – überwacht und steuert KI-Agenten und erkennt bösartige Tool-Nutzung, Prompt-Injection und Richtlinienabweichungen in Echtzeit, bevor der Agent agiert.