Integrated Gradients
入力が、基準となる入力（たとえば、黒い画像）からどう変化したかの経路に沿って、勾配を積分し、各入力の特徴が、予測にどれだけ寄与したかを求める説明手法として、最も適切なものを1つ選べ。
- A
Integrated Gradients
- B
Grad-CAM
- C
LIME
- D
順列重要度
正解と解説を見る
正解：A
Integrated Gradientsは、基準入力から実際の入力までの経路で、勾配を積分する。寄与の合計が、出力の差に等しいという性質を持つ。
| 手法 | 内容 |
|---|---|
| Grad-CAM | 勾配から、画像のどこに注目したかをヒートマップで示す |
| LIME | 予測の周りを単純なモデル（線形）で近似して、特徴量の影響を示す |
| Integrated Gradients | 基準となる入力から実際の入力までの勾配を積分して、各特徴量の寄与を求める |
- A
正しい。勾配だけの方法より、理論的な性質（完全性など）がよい。
- B
誤り。最終の畳み込み層の勾配を使った、領域のヒートマップ。
- C
誤り。近くを単純なモデルで近似する。
- D
誤り。特徴量を並べ替えて性能の低下を見る。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。