한국군사과학기술학회 Korea Institute of Military Science and Technology 에서 주관하는 2020 한국군사과학기술학회 종합학술대회에 센서신호 session에 제출한 "XAI를 위한 Attribution Method 접근법 분석 및 동향 Analysis and Trend of Attribution Methods for XAI" 중 3절 실험 파트에서 사용한 코드와 예시를 공개하기 위해 만들었습니다.
해당 논문에서는 Image Classification에서의 XAI 예시를 보기위해 아래의 기법을 사용했습니다.
Model : Resnet18 (pretrained)
XAI : Integrated Gradient, SmoothGrad
demo에서는 위의 두가지 기법만 다루었지만, 이외의 다른 기법도 가능합니다.
그리고 Captum을 사용했습니다.
Installation Requirements
- Python >= 3.6
- PyTorch >= 1.2
- conda == 4.9.2
The latest release of Captum is easily installed either via Anaconda (recommended):
conda install captum -c pytorchor via pip:
pip install captum
XAI를 위한 Attribution Method 접근법 분석 및 동향
Axiomatic Attribution for Deep Networks
SmoothGrad: removing noise by adding noise
Joonsang Yoo / @js-yoo