AI資格 模擬試験

G検定 模擬試験 第4回 問43・ディープラーニングの概要（活性化関数）

デッドReLU

ReLUを使ったニューラルネットワークで、学習中に一部のユニットの出力が常に0となり、重みが更新されなくなる問題の対策として、最も適切なものを1つ選べ。

  1. A

    出力層の活性化関数を恒等関数に変える

  2. B

    学習率を常に0にする

  3. C

    入力データの数を減らす

  4. D

    負の領域にも小さな傾きを持つLeaky ReLUなどを使う

正解と解説を見る

正解：D

ReLUは入力が負だと勾配が0になるため、ユニットが更新されなくなることがある。Leaky ReLUやELUなどが対策になる。

ReLUとLeaky ReLUの曲線。Leaky ReLUは負の側にわずかな傾きがある。

Leaky ReLUは負の入力でも小さな傾きを残し、ReLUの「死ぬ」問題を和らげる。

学習のポイント：学習率が大きすぎると起こりやすい点も押さえる。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。