ai-red-team

🐢 LLM Agents के लिए ओपन-सोर्स इवैल्यूएशन और टेस्टिंग लाइब्रेरी

जेनरेटिव AI के लिए Python रिस्क आइडेंटिफिकेशन टूल (PyRIT) एक ओपन सोर्स फ्रेमवर्क है जिसे सुरक्षा पेशेवरों और इंजीनियरों को जेनरेटिव AI सिस्टम में जोखिमों की सक्रिय रूप से पहचान करने के लिए सशक्त बनाने के लिए बनाया गया है।

बुनियादी ढांचे (infrastructure) सहित AI Red Teaming प्रशिक्षण चलाने के लिए AI Red Teaming प्लेग्राउंड लैब्स।

Agentic LLM Vulnerability Scanner / AI red teaming kit 🧪

स्वचालित LLM फ़ज़िंग के लिए एक शक्तिशाली टूल। इसे डेवलपर्स और सुरक्षा शोधकर्ताओं को उनके LLM API में संभावित जेलब्रेक की पहचान करने और उन्हें कम करने में मदद करने के लिए डिज़ाइन किया गया है।

AI एजेंटों की खोज, टोही और नैतिक मूल्यांकन के लिए एक आक्रामक/रक्षात्मक सुरक्षा टूलसेट

स्वायत्त AI पेंटेस्टिंग इंजन, वेब, क्लाउड, पहचान, CI/CD, IaC, डेटाबेस, Active Directory, Kubernetes और IoT फर्मवेयर में निरंतर आक्रामक सुरक्षा। एजेंटिक तर्क और वास्तविक शोषण निष्पादन प्रमाण-आधारित कमजोरियों को वितरित करते हैं। गोपनीयता गेटवे: LLM कभी भी आपके वास्तविक IP, होस्ट या क्रेडेंशियल को नहीं देखता है, कुछ भी आपकी परिधि से बाहर नहीं जाता है।

AI सिस्टम के एडवरसैरियल टेस्टिंग और सुरक्षा मूल्यांकन के लिए एक व्यापक गाइड, जो संगठनों को हमलावरों द्वारा शोषण से पहले कमजोरियों की पहचान करने में मदद करती है