混合精度学習
ニューラルネットワークの学習で、計算の多くを16ビットの浮動小数点数(FP16・BF16)で行い、重みの更新などは32ビットで保持する、混合精度学習の主な利点として、最も適切なものを1つ選べ。
- A
精度が、必ず32ビットより向上する。
- B
学習データが、不要になる。
- C
メモリの使用量を減らし、対応するGPUでの計算を速くできる。
- D
勾配消失が、必ず解消される。
正解と解説を見る
正解:C
混合精度学習は、FP16・BF16で計算し、FP32で重みを保持する。メモリと計算時間を節約できる。BF16は、指数部が広く、損失スケーリングが不要なことが多い。
- A
誤り。精度を保ちつつ、効率を上げるのが目的。
- B
誤り。データの量とは関係がない。
- C
正しい。FP16では、損失スケーリングで、小さな勾配の消失を防ぐ。
- D
誤り。別の問題。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。