interpretability

Pendekatan teori permainan untuk menjelaskan output dari model pembelajaran mesin apa pun.

Daftar pilihan pustaka sumber terbuka yang luar biasa untuk menerapkan, memantau, membuat versi, dan menskalakan machine learning Anda

Penjelasan AI tingkat lanjut untuk visi komputer. Mendukung CNN, Vision Transformers, Klasifikasi, deteksi Objek, Segmentasi, kesamaan Gambar, dan banyak lagi.

Membuat model yang dapat diinterpretasikan. Menjelaskan machine learning blackbox.

Interpretabilitas dan pemahaman model untuk PyTorch.

Daftar kurasi sumber daya machine learning yang bertanggung jawab.

Shapash: Penjelasan dan interpretabilitas yang ramah pengguna untuk mengembangkan model Machine Learning yang andal dan transparan.

StellarGraph - Pembelajaran Mesin pada Grafik

Algoritma untuk menjelaskan model machine learning

Peta aktivasi kelas untuk model PyTorch Anda (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox adalah rangkaian alat yang menyediakan antarmuka pengguna dan pustaka untuk eksplorasi serta penilaian model dan data guna memahami sistem AI dengan lebih baik. Antarmuka dan pustaka ini memberdayakan pengembang dan pemangku kepentingan sistem AI untuk mengembangkan serta memantau AI secara lebih bertanggung jawab dan mengambil tindakan berbasis data yang lebih baik.

Kumpulan materi penelitian tentang AI/ML yang dapat dijelaskan (explainable AI/ML).

Paket ML yang dapat diinterpretasikan 🔍 untuk pemodelan prediktif yang ringkas, transparan, dan akurat (kompatibel dengan sklearn).

Pustaka Python NLP Stanford untuk Representation Finetuning (ReFT)

Bahasa yang Agnostik Model untuk Eksplorasi dan Penjelasan (moDel Agnostic Language for Exploration and eXplanation)

XAI - Kotak alat explainability untuk machine learning

platform interpretabilitas open source 🧠

Paket nnsight memungkinkan interpretasi dan manipulasi bagian internal model deep learning.

Metode Interpretabilitas untuk model tf.keras dengan Tensorflow 2.x

Pustaka Python NLP Stanford untuk memahami dan meningkatkan model PyTorch melalui intervensi.

Koleksi metode deteksi anomali (berbasis iid/titik, grafik, dan deret waktu) termasuk pembelajaran aktif untuk deteksi/penemuan anomali, penambangan aturan Bayesian, serta deskripsi untuk keragaman/penjelasan/interpretabilitas. Analisis penggabungan umpan balik label dengan detektor berbasis ensemble dan pohon. Termasuk serangan adversarial dengan Graph Convolutional Network.

Menemukan dan menyunting asosiasi faktual dalam GPT (NeurIPS 2022)

Interaksi Shapley dan Nilai Shapley untuk Machine Learning

Makalah penelitian yang sering dikutip/terbaik mengenai interpretabilitas model jaringan saraf dalam pembelajaran mendalam (disertai kode).

👋 Xplique adalah Kotak Alat Penjelas Neural Networks

Kumpulan algoritma mutakhir untuk pelatihan, penyajian, dan interpretasi model Decision Forest di Keras.

Contoh teknik untuk melatih model ML yang dapat diinterpretasikan, menjelaskan model ML, serta men-debug model ML untuk akurasi, diskriminasi, dan keamanan.

[JMLR 2023] Quantus adalah toolkit AI yang dapat dijelaskan (eXplainable AI) untuk evaluasi penjelasan jaringan saraf yang bertanggung jawab.

Pustaka untuk melatih, mengevaluasi, menginterpretasi, dan memproduksi model hutan keputusan seperti Random Forest dan Gradient Boosted Decision Trees.

Kode untuk proyek interpretabilitas ML TCAV.