interpretability

あらゆる機械学習モデルの出力を説明するためのゲーム理論的アプローチ。

機械学習をデプロイ、監視、バージョン管理、スケーリングするための素晴らしいオープンソースライブラリの厳選リスト。

コンピュータビジョン向け高度なAI説明可能性。CNN、Vision Transformers、分類、物体検出、セグメンテーション、画像類似度などに対応。

解釈可能なモデルを適合させる。ブラックボックス機械学習を説明する。

PyTorchのためのモデルの解釈可能性と理解

優れた責任ある機械学習リソースの厳選リスト。

🔅 Shapash：信頼性が高く透明性の高い機械学習モデルを開発するための、ユーザーフレンドリーな説明可能性および解釈性ツール

StellarGraph - グラフに対する機械学習

機械学習モデルを説明するためのアルゴリズム

PyTorch モデル用のクラス活性化マップ (CAM、Grad-CAM、Grad-CAM++、Smooth Grad-CAM++、Score-CAM、SS-CAM、IS-CAM、XGrad-CAM、Layer-CAM、Finer-CAM、LeGrad、RefineCAM)

Responsible AI Toolbox は、AI システムの理解を深めるためのモデルとデータの探索・評価用 UI およびライブラリを提供するツールスイートです。これらのツールにより、AI システムの開発者や関係者は、より責任を持って AI の開発と監視を行い、データに基づいたより良いアクションを起こすことができます。

説明可能な AI/ML に関する研究資料のコレクション

簡潔、透明、正確な予測モデリングのための解釈可能なMLパッケージ 🔍 (sklearn互換)

表現ファインチューニング（ReFT）のためのStanford NLP Pythonライブラリ

探索と説明のためのモデル非依存言語

XAI - 機械学習用の説明可能性ツールボックス

オープンソースの解釈可能性プラットフォーム 🧠

nnsightパッケージにより、ディープラーニングモデルの内部構造の解釈と操作が可能になります。

Tensorflow 2.x を使用した tf.keras モデル向けの解釈可能性手法

介入を通じて PyTorch モデルを理解し改善するための Stanford NLP Python ライブラリ

異常検知・発見のためのアクティブラーニング、ベイズ規則マイニング、多様性/説明/解釈可能性のための記述を含む、異常検知手法（IID/ポイントベース、グラフ、時系列）のコレクション。アンサンブルおよびツリーベースの検知器へのラベルフィードバックの統合分析。Graph Convolutional Networkを用いた敵対的攻撃を含む。

GPT 内の事実関係の特定と編集 (NeurIPS 2022)

機械学習のための Shapley 相互作用と Shapley 値

近年におけるニューラルネットワークモデルの解釈可能性に関する、高被引用・主要学会の論文集（コード付き）

👋 Xpliqueはニューラルネットワークの説明可能性（Explainability）ツールボックスです

Keras における Decision Forest モデルのトレーニング、サービング、解釈のための最先端アルゴリズム集

解釈可能なMLモデルの訓練、MLモデルの説明、および精度、差別、セキュリティに関するMLモデルのデバッグ手法の例

[JMLR 2023] Quantusは、ニューラルネットワークの説明を責任を持って評価するための説明可能AI（XAI）ツールキットです

ランダムフォレストや勾配ブースティング木などの決定木モデルのトレーニング、評価、解釈、本番運用を行うためのライブラリ

TCAV ML 解釈可能性プロジェクトのコード