AI資格 模擬試験

G検定 模擬試験 第4回 問50・ディープラーニングの概要(最適化手法)

勾配クリッピング

再帰型ニューラルネットワークの学習で、勾配が極端に大きくなって学習が不安定になるのを防ぐ手法として、最も適切なものを1つ選べ。

  1. A

    勾配を常に0にする

  2. B

    活性化関数をすべて削除する

  3. C

    勾配のノルムがしきい値を超えたら、大きさをしきい値に収まるように縮める

  4. D

    学習データの順番を毎回そろえる

正解と解説を見る

正解:C

勾配クリッピングは、勾配の大きさに上限を設けて、勾配爆発による不安定な更新を防ぐ。

学習のステップごとの勾配の大きさ。途中で急に大きくなる勾配が、クリッピングでしきい値に抑えられる様子の棒グラフ。

勾配爆発の対策:勾配クリッピングは、勾配の大きさが上限を超えたら、向きを保ったまま上限の大きさに縮める。

学習のポイント:勾配消失への対策(ReLU、スキップ結合、LSTMなど)とは区別する。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。