interpretability

Une approche basée sur la théorie des jeux pour expliquer les résultats de tout modèle de machine learning.

Une liste organisée de bibliothèques open source pour déployer, surveiller, versionner et mettre à l'échelle vos modèles de machine learning.

Explicabilité avancée de l'IA pour la vision par ordinateur. Support pour les CNN, Vision Transformers, classification, détection d'objets, segmentation, similarité d'images et plus encore.

Ajuster des modèles interprétables. Expliquer l'apprentissage automatique en boîte noire.

Outils d'interprétabilité et de compréhension de modèles pour PyTorch.

Une liste organisée de ressources exceptionnelles sur l'apprentissage automatique responsable.

Shapash : explicabilité et interprétabilité conviviales pour développer des modèles de Machine Learning fiables et transparents

StellarGraph - Apprentissage automatique sur les graphes

Algorithmes pour l'explicabilité des modèles d'apprentissage automatique

Cartes d'activation de classe pour vos modèles PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox est une suite d'outils fournissant des interfaces utilisateur et des bibliothèques d'exploration et d'évaluation de modèles et de données, permettant une meilleure compréhension des systèmes d'IA. Ces interfaces et bibliothèques permettent aux développeurs et aux parties prenantes des systèmes d'IA de développer et de surveiller l'IA de manière plus responsable, et de prendre de meilleures décisions basées sur les données.

Une collection de ressources de recherche sur l'IA/ML explicable.

Package ML interprétable 🔍 pour une modélisation prédictive concise, transparente et précise (compatible sklearn).

Bibliothèque Python Stanford NLP pour le réglage fin de représentation (ReFT).

Langage agnostique au modèle pour l'exploration et l'explication

XAI - Une boîte à outils d'explicabilité pour le machine learning

Plateforme open source d'interprétabilité.

Le package nnsight permet d'interpréter et de manipuler les rouages internes des modèles d'apprentissage profond.

Méthodes d'interprétabilité pour les modèles tf.keras avec Tensorflow 2.x

Bibliothèque Python de Stanford NLP pour comprendre et améliorer les modèles PyTorch via des interventions.

Une collection de méthodes de détection d'anomalies (iid/basées sur des points, graphes et séries temporelles) incluant l'apprentissage actif pour la détection/découverte d'anomalies, l'exploration de règles bayésiennes, et la description pour la diversité/explication/interprétabilité. Analyse de l'intégration des retours d'étiquetage avec des détecteurs d'ensemble et basés sur des arbres. Inclut des attaques adverses avec Graph Convolutional Network.

Localisation et modification d'associations factuelles dans GPT (NeurIPS 2022)

Interactions de Shapley et valeurs de Shapley pour l'apprentissage automatique.

Articles de recherche hautement cités et issus de conférences majeures sur l'interprétabilité des modèles de réseaux de neurones en Deep Learning (avec code).

Xplique est une boîte à outils pour l'explicabilité des réseaux de neurones

Une collection d'algorithmes de pointe pour l'entraînement, le serving et l'interprétation de modèles de forêts de décision dans Keras.

Exemples de techniques pour entraîner des modèles ML interprétables, expliquer les modèles ML et déboguer les modèles ML pour la précision, la discrimination et la sécurité.

[JMLR 2023] Quantus est un kit d'IA explicable pour l'évaluation responsable des explications de réseaux de neurones

Une bibliothèque pour entraîner, évaluer, interpréter et industrialiser des modèles de forêts de décision tels que Random Forest et Gradient Boosted Decision Trees

Code pour le projet d'interprétabilité ML TCAV