ai-red-team

🐢 Open-Source-Evaluierungs- und Testbibliothek für LLM-Agenten

Das Python Risk Identification Tool für generative KI (PyRIT) ist ein Open-Source-Framework, das Sicherheitsexperten und Ingenieuren helfen soll, Risiken in generativen KI-Systemen proaktiv zu erkennen.

AI Red Teaming Playground-Labs zur Durchführung von AI Red Teaming-Schulungen einschließlich Infrastruktur.

Agentenbasierter LLM-Schwachstellenscanner / KI-Red-Teaming-Kit 🧪

Ein leistungsstarkes Tool für automatisiertes LLM-Fuzzing. Es wurde entwickelt, um Entwicklern und Sicherheitsforschern dabei zu helfen, potenzielle Jailbreaks in ihren LLM-APIs zu identifizieren und zu entschärfen.

Ein Angriffs- und Verteidigungssicherheits-Tool-Set für Entdeckung, Aufklärung und ethische Bewertung von AI Agents

Autonome KI-Penetrationstest-Engine für kontinuierliche offensive Sicherheit über Web, Cloud, Identität, CI/CD, IaC, Datenbanken, Active Directory, Kubernetes und IoT-Firmware. Agentenbasiertes Schließen sowie echte Exploit-Ausführung liefern beweisbasierte Schwachstellen. Datenschutz-Gateway: Die LLM sieht niemals Ihre echten IPs, Hosts oder Zugangsdaten, nichts verlässt Ihren Perimeter.

Ein umfassender Leitfaden für Adversarial Testing und Sicherheitsbewertung von KI-Systemen, der Unternehmen hilft, Schwachstellen zu identifizieren, bevor Angreifer sie ausnutzen.