interpretability

किसी भी मशीन लर्निंग मॉडल के आउटपुट को समझाने के लिए एक गेम थ्योरेटिकल दृष्टिकोण।

आपके मशीन लर्निंग को तैनात, मॉनिटर, वर्जन और स्केल करने के लिए शानदार ओपन सोर्स लाइब्रेरी की एक क्यूरेटेड सूची

कंप्यूटर विजन के लिए उन्नत AI स्पष्टता। CNN, Vision Transformers, वर्गीकरण, ऑब्जेक्ट डिटेक्शन, सेगमेंटेशन, इमेज समानता और बहुत कुछ के लिए समर्थन।

व्याख्या योग्य मॉडल फिट करें। ब्लैकबॉक्स मशीन लर्निंग की व्याख्या करें।

PyTorch के लिए मॉडल व्याख्या और समझ

शानदार जिम्मेदार मशीन लर्निंग संसाधनों की एक क्यूरेटेड सूची।

🔅 Shapash: विश्वसनीय और पारदर्शी Machine Learning मॉडल विकसित करने के लिए उपयोग में आसान व्याख्यात्मकत और बोधगम्यता

StellarGraph - ग्राफ़ पर मशीन लर्निंग

मशीन लर्निंग मॉडल को समझाने के लिए एल्गोरिदम

आपके PyTorch मॉडल के लिए क्लास एक्टिवेशन मैप्स (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox टूल का एक सेट है जो मॉडल और डेटा एक्सप्लोरेशन और असेसमेंट यूजर इंटरफेस और लाइब्रेरी प्रदान करता है जो AI सिस्टम की बेहतर समझ को सक्षम करते हैं। ये इंटरफेस और लाइब्रेरी AI सिस्टम के डेवलपर्स और हितधारकों को अधिक जिम्मेदारी से AI विकसित करने और मॉनिटर करने, और बेहतर डेटा-संचालित कार्रवाई करने के लिए सशक्त बनाते हैं।

explainable AI/ML पर अनुसंधान सामग्री का एक संग्रह

संक्षिप्त, पारदर्शी और सटीक पूर्वानुमानित मॉडलिंग (sklearn-compatible) के लिए व्याख्या योग्य ML पैकेज 🔍।

रिप्रेजेंटेशन फाइनट्यूनिंग (ReFT) के लिए Stanford NLP Python लाइब्रेरी।

अन्वेषण और स्पष्टीकरण के लिए मॉडल अज्ञेयवादी भाषा

XAI - मशीन लर्निंग के लिए एक eXplainability टूलबॉक्स

ओपन सोर्स व्याख्यात्मकता प्लेटफ़ॉर्म 🧠

nnsight पैकेज डीप लर्निंग मॉडल के आंतरिक कामकाज की व्याख्या और हेरफेर करने में सक्षम बनाता है।

Tensorflow 2.x के साथ tf.keras मॉडलों के लिए इंटरप्रिटेबिलिटी मेथड्स

PyTorch मॉडल को इंटरवेंशन के माध्यम से समझने और बेहतर बनाने के लिए स्टैनफोर्ड NLP पायथन लाइब्रेरी

असंगति पहचान (anomaly detection) विधियों का संग्रह (iid/पॉइंट-आधारित, ग्राफ और टाइम सीरीज), जिसमें सक्रिय शिक्षण, बेयसियन नियम-खनन, और विविधता/व्याख्या/व्याख्यात्मकता के लिए विवरण शामिल हैं। एन्सेम्बल और ट्री-आधारित डिटेक्टरों के साथ लेबल फीडबैक को शामिल करने का विश्लेषण। इसमें ग्राफ कन्वेन्शनल नेटवर्क के साथ एडवरसैरियल हमले भी शामिल हैं।

GPT में तथ्यात्मक संबंधों को खोजना और संपादित करना (NeurIPS 2022)।

मशीन लर्निंग के लिए Shapley इंटरैक्शन और Shapley वैल्यूज।

डीप लर्निंग में न्यूरल नेटवर्क मॉडल की व्याख्यायिता पर हाल के वर्षों के अत्यधिक उद्धृत / शीर्ष सम्मेलन के पेपर (कोड के साथ)

Xplique न्यूरल नेटवर्क व्याख्यात्मकता (Explainability) के लिए एक टूलबॉक्स है

Keras में डिसीजन फॉरेस्ट मॉडल के प्रशिक्षण, सर्विंग और व्याख्या के लिए अत्याधुनिक एल्गोरिदम का संग्रह।

इंटरप्रिटेबल ML मॉडल को ट्रेन करने, ML मॉडल को समझाने और सटीकता, भेदभाव और सुरक्षा के लिए ML मॉडल को डीबग करने की तकनीकों के उदाहरण।

[JMLR 2023] Quantus न्यूरल नेटवर्क स्पष्टीकरणों के जिम्मेदार मूल्यांकन के लिए एक eXplainable AI टूलकिट है।

रैंडम फ़ॉरेस्ट और ग्रेडिएंट बूस्टेड डिसीजन ट्रीज़ जैसे डिसीजन फ़ॉरेस्ट मॉडल को प्रशिक्षित करने, मूल्यांकन करने, व्याख्या करने और उत्पादन में लाने के लिए एक लाइब्रेरी।

TCAV ML इंटरप्रिटेबिलिटी प्रोजेक्ट के लिए कोड