線形スケーリング則
ミニバッチ学習で、バッチサイズを k 倍に増やすときの、学習率の調整として、経験的に使われる線形スケーリング則の内容として、最も適切なものを1つ選べ。
- A
学習率も k 倍にする(初期はウォームアップで徐々に上げる)
- B
学習率を、k 分の 1 にする
- C
学習率は、バッチサイズに関係なく、固定する
- D
学習率を、必ず 0 にする
正解と解説を見る
正解:A
線形スケーリング則は、バッチサイズを k 倍にしたら、学習率も k 倍にする経験則。大きな学習率は、初期が不安定なので、ウォームアップを併用する。
- A
正しい。大バッチ学習で、精度を保つための経験則。
- B
誤り。逆である。
- C
誤り。バッチサイズに応じて調整する。
- D
誤り。学習が進まない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。