KAIST XAI Tutorial 2024 | XAI Methods I: Local Explanation Methods | Myeongjin Lee (KAIST)

Local explanation methods provide explanations for individual predictions of a model. This talk introduces methods that quantify how different features of individual input data contribute to the corresponding prediction. Specifically, we will present representative methods from two categories: (1) model-agnostic methods, which can be applied regardless of the model type, and (2) model-specific methods, which are tailored to deep learning models.
지역적 설명 방법은 모델의 개별 예측에 대한 설명을 제공합니다. 본 발표에서는, 여러 방법론들 중, 개별 입력 데이터의 여러 특징들이 해당 예측에 얼마나 기여했는지를 계산하여 설명을 제공하는 방법에 대해 소개합니다. 구체적으로, 모델의 종류에 상관없이 적용할 수 있는 (1) 모델 불가지론적 (model-agnostic) 방법과 (2) 딥러닝 모델에 특화된 (model-specific) 방법에 관한 대표적인 방법들을 소개합니다.