ai-red-team

🐢 Pustaka pengujian dan evaluasi sumber terbuka untuk LLM Agent

Python Risk Identification Tool untuk AI generatif (PyRIT) adalah framework open-source yang dibangun untuk memberdayakan para profesional keamanan dan insinyur guna mengidentifikasi risiko dalam sistem AI generatif secara proaktif.

Lab playground AI Red Teaming untuk menjalankan pelatihan AI Red Teaming termasuk infrastrukturnya.

Pemindai Kerentanan LLM Agen / Kit red teaming AI 🧪

Alat yang kuat untuk fuzzing LLM otomatis. Dirancang untuk membantu pengembang dan peneliti keamanan mengidentifikasi dan memitigasi potensi jailbreak pada API LLM mereka.

Kumpulan alat keamanan ofensif/defensif untuk penemuan, pengintaian, dan penilaian etis AI Agent.

Mesin pentesting AI otonom, keamanan ofensif berkelanjutan di seluruh web, cloud, identitas, CI/CD, IaC, basis data, Active Directory, Kubernetes, dan firmware IoT. Penalaran agen ditambah eksekusi eksploitasi nyata memberikan kerentanan berbasis bukti. Gateway privasi: LLM tidak pernah melihat IP, host, atau kredensial asli Anda, tidak ada yang meninggalkan perimeter Anda.

Panduan komprehensif untuk pengujian adversarial dan evaluasi keamanan sistem AI, membantu organisasi mengidentifikasi kerentanan sebelum dieksploitasi oleh penyerang.