interpretability

Một phương pháp tiếp cận lý thuyết trò chơi để giải thích đầu ra của bất kỳ mô hình machine learning nào.

Danh sách tuyển chọn các thư viện mã nguồn mở tuyệt vời để triển khai, giám sát, quản lý phiên bản và mở rộng quy mô máy học của bạn

Khả năng giải thích AI nâng cao cho thị giác máy tính. Hỗ trợ CNN, Vision Transformers, Phân loại, Phát hiện đối tượng, Phân đoạn, Độ tương tự hình ảnh và nhiều tính năng khác.

Huấn luyện các mô hình dễ giải thích. Giải thích học máy hộp đen.

Khả năng giải thích và thấu hiểu mô hình cho PyTorch

Danh sách tổng hợp các tài nguyên học máy có trách nhiệm tuyệt vời.

🔅 Shapash: Khả năng giải thích và diễn giải thân thiện với người dùng để phát triển các mô hình Machine Learning đáng tin cậy và minh bạch

StellarGraph - Học máy trên đồ thị

Các thuật toán giải thích mô hình học máy

Bản đồ kích hoạt lớp cho các mô hình PyTorch của bạn (CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox là bộ công cụ cung cấp giao diện người dùng và thư viện để khám phá và đánh giá mô hình cũng như dữ liệu, giúp hiểu rõ hơn về các hệ thống AI. Các giao diện và thư viện này trao quyền cho các nhà phát triển và các bên liên quan phát triển và giám sát AI có trách nhiệm hơn, đồng thời đưa ra các hành động dựa trên dữ liệu tốt hơn.

Bộ sưu tập tài liệu nghiên cứu về AI/ML có thể giải thích được

Gói ML khả giải thích 🔍 cho mô hình dự đoán ngắn gọn, minh bạch và chính xác (tương thích với sklearn).

Thư viện Python NLP của Stanford dành cho Representation Finetuning (ReFT)

Ngôn ngữ bất khả tri về mô hình để khám phá và giải thích.

XAI - Bộ công cụ giải thích cho machine learning

nền tảng khả năng giải thích mã nguồn mở 🧠

Gói nnsight cho phép diễn giải và thao tác với các thành phần bên trong của các mô hình học sâu.

Các phương pháp khả giải thích cho các mô hình tf.keras với Tensorflow 2.x.

Thư viện Python của Stanford NLP giúp hiểu và cải thiện các mô hình PyTorch thông qua can thiệp.

Bộ sưu tập các phương pháp phát hiện bất thường (dựa trên iid/điểm, đồ thị và chuỗi thời gian), bao gồm học chủ động để phát hiện/khám phá bất thường, khai thác quy tắc Bayesian, mô tả cho sự đa dạng/giải thích/khả năng diễn giải. Phân tích việc kết hợp phản hồi nhãn với các bộ phát hiện dựa trên cây và ensemble. Bao gồm các cuộc tấn công đối nghịch với Graph Convolutional Network.

Định vị và chỉnh sửa các liên kết thực tế trong GPT (NeurIPS 2022).

Tương tác Shapley và Giá trị Shapley cho Học máy.

Tổng hợp các bài báo nghiên cứu có trích dẫn cao hoặc từ các hội nghị hàng đầu về khả năng giải thích của mô hình mạng thần kinh trong học sâu (kèm mã nguồn).

Xplique là bộ công cụ giải thích mạng thần kinh (Neural Networks Explainability Toolbox)

Bộ sưu tập các thuật toán hiện đại để huấn luyện, phục vụ và diễn giải các mô hình Decision Forest trong Keras.

Các ví dụ về kỹ thuật huấn luyện mô hình ML có thể giải thích, giải thích mô hình ML và gỡ lỗi mô hình ML về độ chính xác, phân biệt đối xử và bảo mật.

[JMLR 2023] Quantus là bộ công cụ AI có thể giải thích (eXplainable AI) để đánh giá có trách nhiệm các giải thích của mạng thần kinh

Một thư viện để huấn luyện, đánh giá, diễn giải và đưa vào sản xuất các mô hình rừng quyết định như Random Forest và Gradient Boosted Decision Trees.

Mã nguồn cho dự án khả năng diễn giải ML (ML interpretability) TCAV.