勾配降下法の重み更新
ニューラルネットワークの学習で、ある重みwの現在の値は0.8である。誤差逆伝播法で求めた、この重みに対する損失の勾配は+0.5だった。学習率を0.1として勾配降下法で1回更新したとき、更新後のwの値として最も適切なものを1つ選べ。
- A
0.75
- B
0.30
- C
0.05
- D
0.85
正解と解説を見る
正解:A
更新式は「新しい重み=今の重み−学習率×勾配」である。誤差逆伝播法は各重みの勾配を求める方法で、その勾配を使って重みを少しずつ動かすのが勾配降下法である。
- A
正しい。勾配降下法では、勾配と逆の向きに「学習率×勾配」だけ動かす。0.8−0.1×0.5=0.75。
- B
誤り。学習率を掛けずに、勾配0.5をそのまま引いている(0.8−0.5)。
- C
誤り。0.05は更新量(0.1×0.5)で、更新後の重みではない。元の値0.8から引く必要がある。
- D
誤り。勾配の向きに足している。損失を小さくするには、勾配と逆の向きに動かす(引く)。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。