interpretability

以博弈論方法說明任何機器學習模型的輸出。

精選的開源函式庫清單，協助部署、監控、版本管理與擴展機器學習系統。

先進的 AI 可解釋性工具，支援電腦視覺的 CNN、Vision Transformers、分類、目標偵測、分割、影像相似度等。

適配可解釋模型。說明黑盒機器學習。

PyTorch 模型可解釋性與理解

精选负责任机器学习资源列表

🔅 Shapash：使用者友善的可解釋性與可解讀性工具，協助開發可靠且透明的機器學習模型

StellarGraph - 圖形上的機器學習

用於解釋機器學習模型的演算法

適用於 PyTorch 模型的類別啟動圖（CAM、Grad-CAM、Grad-CAM++、Smooth Grad-CAM++、Score-CAM、SS-CAM、IS-CAM、XGrad-CAM、Layer-CAM、Finer-CAM、LeGrad、RefineCAM）

Responsible AI Toolbox 是一套提供模型與資料探索、評估使用者介面及程式庫的工具，能協助深入理解 AI 系統。這些介面與程式庫賦能開發人員與 AI 系統利害關係人，使其能更負責任地開發與監控 AI，並採取更好的資料驅動行動。

可解釋性 AI/ML 研究資料合集

可解釋機器學習套件 🔍，用於簡潔、透明且準確的預測模型建立（相容於 sklearn）。

用於表示微調（ReFT）的史丹佛 NLP Python 函式庫

用於探索與解釋的與模型無關語言

XAI - 機器學習的可解釋性工具箱

開源可解釋性平台 🧠

nnsight 套件能夠解讀與操縱深度學習模型的內部運作。

使用 Tensorflow 2.x 的 tf.keras 模型可解釋性方法。

透過干預來理解並改善 PyTorch 模型的 Stanford NLP Python 函式庫

異常檢測方法集合（IID/基於點、圖和時間序列），包含用於異常檢測/發現的主動學習、貝氏規則探勘、多樣性/解釋性/可解釋性描述。分析結合標籤回饋與整合及基於樹的檢測器。包含使用 Graph Convolutional Network 的對抗攻擊。

用於機器學習的 Shapley 互動與 Shapley 值

在 GPT 中定位與編輯事實關聯 (NeurIPS 2022)

近年深度學習關於神經網路模型解釋性的相關高引用/頂會論文（附帶程式碼）

👋 Xplique 是一個神經網路可解釋性工具箱

用於 Keras 中決策森林 (Decision Forest) 模型訓練、服務與解釋的最先進演算法集合。

訓練可解釋機器學習模型、解釋模型以及調試模型準確性、歧視與安全性的技術範例。

[JMLR 2023] Quantus 是一個可解釋 AI 工具包，用於負責評估神經網路解釋

一個用於訓練、評估、解釋並將決策樹模型（如隨機森林和梯度提升決策樹）投產的程式庫。

TCAV ML 可解釋性專案的程式碼