adversarial-attacks

अच्छे AI के लिए पूरी तरह से हानिरहित लिबरेशन प्रॉम्प्ट्स।

विरोधी अनुकरण फ्रेमवर्क

Adversarial Robustness Toolbox (ART) - मशीन लर्निंग सुरक्षा के लिए Python लाइब्रेरी - इवेजन, पॉइज़निंग, एक्सट्रैक्शन, इन्फेंस - रेड और ब्लू टीमें

NLP के लिए डेटा ऑग्मेंटेशन

TextAttack 🐙 NLP में एडवरसेरियल हमलों, डेटा संवर्द्धन और मॉडल प्रशिक्षण के लिए एक Python फ्रेमवर्क है https://textattack.readthedocs.io/en/master/

PyTorch, TensorFlow और JAX में न्यूरल नेटवर्क को धोखा देने वाले एडवरसेरियल उदाहरण बनाने के लिए एक Python टूलबॉक्स

adversarial attacks का PyTorch इम्प्लीमेंटेशन [torchattacks]

बड़े मॉडल की सुरक्षा, संरक्षा और गोपनीयता के लिए एक पठन सूची (Awesome LLM Security, Safety, आदि सहित)।

टेक्स्टुअल एडवरसैरियल अटैक और डिफेंस पर अवश्य पढ़ने योग्य शोध पत्र

इस रिपॉजिटरी में विभिन्न महत्वपूर्ण क्षेत्रों को लक्षित करने वाले विस्तृत एडवर्सरी सिमुलेशन APT कैंपेन शामिल हैं। प्रत्येक सिमुलेशन में कस्टम टूल, C2 सर्वर, बैकडोर, एक्सप्लॉइट तकनीक, स्टेजर, बूटलोडर और अन्य दुर्भावनापूर्ण आर्टिफैक्ट्स शामिल हैं जो वास्तविक दुनिया के हमलों को दर्शाते हैं।

इमेज और ग्राफ पर अटैक और डिफेंस मेथड के लिए एक PyTorch एडवर्सरियल लाइब्रेरी

असंगति पहचान (anomaly detection) विधियों का संग्रह (iid/पॉइंट-आधारित, ग्राफ और टाइम सीरीज), जिसमें सक्रिय शिक्षण, बेयसियन नियम-खनन, और विविधता/व्याख्या/व्याख्यात्मकता के लिए विवरण शामिल हैं। एन्सेम्बल और ट्री-आधारित डिटेक्टरों के साथ लेबल फीडबैक को शामिल करने का विश्लेषण। इसमें ग्राफ कन्वेन्शनल नेटवर्क के साथ एडवरसैरियल हमले भी शामिल हैं।

विविध पैरामीटर-मुक्त हमलों के एक समूह के साथ प्रतिकूल मजबूती के विश्वसनीय मूल्यांकन से संबंधित कोड

एक कठिन ImageNet टेस्ट सेट (CVPR 2021)

PromptInject एक ऐसा फ्रेमवर्क है जो एडवरसेरियल प्रॉम्प्ट हमलों के लिए LLMs की मजबूती का मात्रात्मक विश्लेषण प्रदान करने के लिए मॉड्यूलर तरीके से प्रॉम्प्ट को इकट्ठा करता है। 🏆 बेस्ट पेपर अवार्ड्स @ NeurIPS ML सेफ्टी वर्कशॉप 2022