勾配消失の原因
深いネットワークで勾配消失が起こる仕組みの説明として、最も適切なものを1つ選べ。
- A
学習率が大きすぎるため、勾配が0になる。
- B
誤差逆伝播で、1より小さい値(シグモイド関数の微分など)が層の数だけ掛け合わされ、入力に近い層ほど勾配が小さくなる。
- C
学習データが多すぎるため、勾配が0になる。
- D
出力層の活性化関数を使わないため、勾配が0になる。
正解と解説を見る
正解:B
勾配消失は、1より小さい微分が層の数だけ掛け合わされて起こる。

- A
誤り。学習率が大きすぎると、むしろ学習が発散しやすくなる。
- B
正しい。ReLU の利用、重みの初期化の工夫、残差接続、正規化などが対策になる。
- C
誤り。データの量が多いことは勾配消失の原因ではない。
- D
誤り。主な原因は、中間層の活性化関数の微分が小さいこと。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。