説明可能な人工知能(XAI)の手法の1つであるAFAは、機械学習モデルの予測値を特徴量の貢献度に分解し、各特徴量が予測に与える影響を可視化する手法である。特に、シャープレイ値(協力ゲーム理論の解概念の1つ)に基づくAFAであるSHAPは、近年、金融・経済データへの適用が急速に進んでいる。本稿では、SHAPおよびHiraki, Ishihara and Shino[16]で提示されたAFAを、導出過程を含めて平易に紹介するとともに、シャープレイ値以外の解概念を用いたAFAを新たに定式化する。そして、これらのAFAをわが国の長期金利および失業率に適用し、分解パターンの違いや計算コストの観点から比較分析する。分析の結果、(1)協力ゲーム理論の解概念である残余均等配分解(ES)やそれに類似した解概念(ENSC)に基づくAFAについては、SHAPとの間で分解パターンに明確な差異がみられること、(2)それ以外のAFAの間の差異は相対的に小さいものの、差異のパターンは各AFAに対応するカーネル関数の形状を反映していること、(3)ESとENSCを按分したAFAは、計算コストやSHAPとの差異が小さく、SHAPの近似計算の手法として優れた性質を持つこと、が明らかになった。
キーワード:AFA、LIME、SHAP、XAI、カーネル、機械学習、協力ゲーム理論
掲載論文等の内容や意見は、執筆者個人に属し、日本銀行あるいは金融研究所の公式見解を示すものではありません。