判断の根拠の可視化

正解：A

Grad-CAM は勾配を使って CNN の注目領域をヒートマップで示す手法。

Grad-CAM：分類の根拠になった画像の場所を、勾配から求めてヒートマップで重ねて示す。

• A

  正しい。予測したクラスに対する勾配から特徴マップの重要度を求め、判断に効いた領域を画像の上に重ねて示す。

• B

  誤り。LIME は、ある予測の周りで単純なモデルに近似して、どの特徴が効いたかを説明する手法。勾配は使わない。

• C

  誤り。SHAP は、協力ゲーム理論のシャープレイ値を使って、各特徴が予測にどれだけ貢献したかを示す手法。

• D

  誤り。t-SNE は、高次元のデータを2次元や3次元に圧縮して可視化する次元削減の手法。

学習のポイント：説明可能AI（XAI）の代表的な手法（Grad-CAM、LIME、SHAP）が何を示すかを区別する。