勾配チェックポイント
誤差逆伝播法で、順伝播の中間結果をすべて保存せず、必要になったときに再計算することで、メモリの使用量を減らす手法として、最も適切なものを1つ選べ。
- A
勾配クリッピング
- B
ミニバッチ学習
- C
重みの初期化
- D
勾配チェックポイント(activation checkpointing)
正解と解説を見る
正解:D
誤差逆伝播法は、順伝播の中間結果(活性化)を保存する必要があり、メモリを多く使う。チェックポイントは、一部だけ保存し、残りは逆伝播のときに再計算する。
- A
誤り。勾配の大きさを制限する。
- B
誤り。データを小さな集まりに分けて更新する。
- C
誤り。重みの初期値の決め方。
- D
正しい。計算時間が増える代わりに、メモリを節約できる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。