interpretability

Un enfoque de teoría de juegos para explicar la salida de cualquier modelo de machine learning.

Una lista seleccionada de excelentes bibliotecas de código abierto para implementar, monitorear, versionar y escalar tu aprendizaje automático.

Explicabilidad de IA avanzada para visión por computador. Soporte para CNNs, Vision Transformers, clasificación, detección de objetos, segmentación, similitud de imágenes y más.

Ajusta modelos interpretables. Explica el aprendizaje automático de caja negra.

Interpretabilidad y comprensión de modelos para PyTorch.

Una lista seleccionada de recursos increíbles sobre machine learning responsable.

🔅 Shapash: Explicabilidad e interpretabilidad fáciles de usar para desarrollar modelos de Machine Learning fiables y transparentes

StellarGraph - Machine Learning en grafos

Algoritmos para explicar modelos de aprendizaje automático

Mapas de activación de clases para tus modelos de PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox es un conjunto de herramientas que proporciona interfaces de usuario y bibliotecas para la exploración y evaluación de modelos y datos, permitiendo una mejor comprensión de los sistemas de IA. Estas interfaces y bibliotecas permiten a los desarrolladores y partes interesadas de los sistemas de IA desarrollar y supervisar la IA de forma más responsable, tomando mejores decisiones basadas en datos.

Una colección de materiales de investigación sobre IA/ML explicable.

Paquete de ML interpretable 🔍 para modelos predictivos concisos, transparentes y precisos (compatible con sklearn).

Biblioteca de Python de Stanford NLP para ajuste de representación (ReFT)

Lenguaje agnóstico de modelo para exploración y explicación

XAI - Una caja de herramientas de explicabilidad para aprendizaje automático

Plataforma de interpretabilidad de código abierto

El paquete nnsight permite interpretar y manipular los componentes internos de modelos de aprendizaje profundo.

Métodos de interpretabilidad para modelos de tf.keras con Tensorflow 2.x

Biblioteca de Python de Stanford NLP para comprender y mejorar modelos de PyTorch mediante intervenciones.

Una colección de métodos de detección de anomalías (basados en puntos/iid, grafos y series temporales) que incluye aprendizaje activo para la detección/descubrimiento de anomalías, minería de reglas bayesianas y descripción para diversidad/explicación/interpretabilidad. Análisis de incorporación de retroalimentación de etiquetas con detectores de conjunto y basados en árboles. Incluye ataques adversarios con Graph Convolutional Network.

Localización y edición de asociaciones factuales en GPT (NeurIPS 2022)

Interacciones de Shapley y valores de Shapley para aprendizaje automático

Artículos de conferencias destacadas y altamente citados sobre la interpretabilidad de modelos de redes neuronales en el aprendizaje profundo (con código incluido).

Xplique es una caja de herramientas para la explicabilidad de redes neuronales.

Una colección de algoritmos de vanguardia para el entrenamiento, servicio e interpretación de modelos de Decision Forest en Keras.

Ejemplos de técnicas para entrenar, explicar y depurar modelos de ML en cuanto a precisión, discriminación y seguridad.

[JMLR 2023] Quantus es un kit de herramientas de IA explicable para la evaluación responsable de explicaciones de redes neuronales.

Biblioteca para entrenar, evaluar, interpretar y poner en producción modelos de bosque de decisión, como Random Forest y Gradient Boosted Decision Trees.

Código para el proyecto de interpretabilidad de ML TCAV