interpretability

Uma abordagem da teoria dos jogos para explicar a saída de qualquer modelo de machine learning.

Uma lista selecionada de incríveis bibliotecas open-source para implantar, monitorar, versionar e dimensionar seu aprendizado de máquina

Explicabilidade avançada de IA para visão computacional. Suporte para CNNs, Vision Transformers, classificação, detecção de objetos, segmentação, similaridade de imagem e muito mais.

Ajuste modelos interpretáveis. Explique o aprendizado de máquina de caixa-preta.

Interpretabilidade e compreensão de modelos para PyTorch

Uma lista curada de recursos incríveis sobre aprendizado de máquina responsável.

Shapash: Explicabilidade e interpretabilidade amigáveis para desenvolver modelos de Machine Learning confiáveis e transparentes

StellarGraph - Aprendizado de Máquina em Grafos

Algoritmos para explicar modelos de aprendizado de máquina.

Mapas de ativação de classe para seus modelos PyTorch (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

O Responsible AI Toolbox é um conjunto de ferramentas que fornece interfaces de usuário e bibliotecas para exploração e avaliação de modelos e dados, permitindo uma melhor compreensão de sistemas de IA. Essas interfaces e bibliotecas capacitam desenvolvedores e partes interessadas a desenvolver e monitorar a IA de forma mais responsável e a tomar melhores decisões baseadas em dados.

Uma coleção de materiais de pesquisa sobre IA/ML explicável

Pacote de ML interpretável 🔍 para modelagem preditiva concisa, transparente e precisa (compatível com sklearn).

Biblioteca Python de NLP da Stanford para Ajuste Fino de Representação (ReFT)

Linguagem agnóstica de modelo para exploração e explicação.

XAI - Uma caixa de ferramentas de explicabilidade para machine learning

Plataforma de interpretabilidade de código aberto

O pacote nnsight permite interpretar e manipular os componentes internos de modelos de aprendizado profundo.

Métodos de interpretabilidade para modelos tf.keras com Tensorflow 2.x.

Biblioteca Python de NLP da Stanford para entender e melhorar modelos PyTorch por meio de intervenções

Uma coleção de métodos de detecção de anomalias (baseados em iid/ponto, grafos e séries temporais), incluindo aprendizado ativo para detecção/descoberta de anomalias, mineração de regras bayesianas, descrição para diversidade/explicação/interpretabilidade. Análise de incorporação de feedback de rótulos com detectores baseados em ensembles e árvores. Inclui ataques adversariais com Graph Convolutional Network.

Localização e edição de associações factuais em GPT (NeurIPS 2022).

Interações de Shapley e Valores de Shapley para Machine Learning

Artigos mais citados e de conferências de topo sobre interpretabilidade de modelos de redes neurais em deep learning nos últimos anos (com código)

👋 Xplique é uma caixa de ferramentas de interpretabilidade de redes neurais

Uma coleção de algoritmos de última geração para treinamento, atendimento e interpretação de modelos de Decision Forest em Keras.

Exemplos de técnicas para treinar modelos de ML interpretáveis, explicá-los e depurá-los quanto a precisão, discriminação e segurança.

[JMLR 2023] Quantus é um kit de ferramentas de IA explicável para a avaliação responsável de explicações de redes neurais

Uma biblioteca para treinar, avaliar, interpretar e colocar em produção modelos de florestas de decisão, como Random Forest e Gradient Boosted Decision Trees.

Código para o projeto de interpretabilidade de ML TCAV