勾配累積
GPUのメモリが足りず、大きなバッチサイズで学習できないときに、小さなバッチで複数回計算した勾配を足し合わせてから、1回だけパラメータを更新する工夫として、最も適切なものを1つ選べ。
- A
勾配累積（gradient accumulation）
- B
勾配クリッピング
- C
ドロップアウト
- D
早期終了
正解と解説を見る
正解：A
勾配累積は、数回のミニバッチの勾配を蓄積してから更新する。メモリを増やさずに、実効バッチサイズを大きくできる。
- A
正しい。実質的に、大きなバッチで学習したのと近い効果になる。
- B
誤り。勾配の大きさに上限を設ける。
- C
誤り。ユニットを確率的に無効にする。
- D
誤り。学習を適切な時点で止める。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。