interpretability

모든 머신러닝 모델의 출력을 설명하기 위한 게임 이론적 접근 방식

머신러닝 배포, 모니터링, 버전 관리 및 확장을 위한 엄선된 오픈소스 라이브러리 목록

컴퓨터 비전을 위한 고급 AI 설명 가능성. CNN, Vision Transformer, 분류, 객체 감지, 분할, 이미지 유사성 등을 지원합니다.

해석 가능한 모델 적합 및 블랙박스 머신러닝 설명

PyTorch를 위한 모델 해석 가능성 및 이해 도구

엄선된 유익한 책임감 있는 머신러닝 리소스 목록입니다.

🔅 Shapash: 신뢰할 수 있고 투명한 머신러닝 모델 개발을 위한 사용자 친화적인 설명 가능성 및 해석 가능성 도구

StellarGraph - 그래프 기반 머신러닝

머신러닝 모델을 설명하기 위한 알고리즘

PyTorch 모델을 위한 클래스 활성화 맵(CAM, Grad-CAM, Grad-CAM++, Smooth Grad-CAM++, Score-CAM, SS-CAM, IS-CAM, XGrad-CAM, Layer-CAM, Finer-CAM, LeGrad, RefineCAM)

Responsible AI Toolbox는 AI 시스템을 더 잘 이해할 수 있도록 모델 및 데이터 탐색, 평가 사용자 인터페이스와 라이브러리를 제공하는 도구 모음입니다. 이러한 인터페이스와 라이브러리를 통해 개발자와 이해관계자는 AI를 더욱 책임감 있게 개발 및 모니터링하고, 데이터 기반의 더 나은 결정을 내릴 수 있습니다.

설명 가능한 AI/ML 관련 연구 자료 모음

간결하고 투명하며 정확한 예측 모델링을 위한 해석 가능한 ML 패키지 🔍 (sklearn 호환).

표현 미세조정(ReFT)을 위한 Stanford NLP Python 라이브러리

탐색 및 설명을 위한 모델 독립형 언어 (moDel Agnostic Language for Exploration and eXplanation)

XAI - 머신러닝을 위한 설명 가능성 툴박스

오픈 소스 해석 가능성 플랫폼

nnsight 패키지는 딥러닝 모델의 내부를 해석하고 조작할 수 있게 해줍니다.

Tensorflow 2.x를 사용하는 tf.keras 모델용 해석 가능성 메서드

개입(intervention)을 통해 PyTorch 모델을 이해하고 개선하기 위한 Stanford NLP Python 라이브러리

이상 탐지/발견을 위한 액티브 러닝, 베이지안 규칙 마이닝, 다양성/설명 가능성을 포함하는 이상 탐지 방법(iid/포인트 기반, 그래프 및 시계열) 모음입니다. 앙상블 및 트리 기반 탐지기와 라벨 피드백을 결합하는 분석을 포함하며, Graph Convolutional Network를 이용한 적대적 공격을 포함합니다.

GPT의 사실적 연관성 위치 파악 및 편집 (NeurIPS 2022)

머신러닝을 위한 Shapley 상호작용 및 Shapley 값

최근 몇 년간 신경망 모델 해석 가능성에 관한 딥러닝 고인용/Top-tier 학회 논문 모음 (코드 포함)

Xplique는 신경망 설명 가능성(Explainability) 툴박스

Keras에서 Decision Forest 모델을 학습, 서빙 및 해석하기 위한 최신 알고리즘 모음

해석 가능한 ML 모델 학습, ML 모델 설명, 그리고 정확도, 차별성, 보안을 위한 ML 모델 디버깅 기법 예제

[JMLR 2023] Quantus, 신경망 설명의 책임감 있는 평가를 위한 설명 가능한 AI 툴킷

Random Forest 및 Gradient Boosted Decision Trees와 같은 결정 트리 모델을 학습, 평가, 해석 및 운영화하기 위한 라이브러리

TCAV ML 해석 가능성 프로젝트를 위한 코드