AI資格 模擬試験

生成AIパスポート 模擬試験 第3回 問5・第1章 AIの基礎と歴史(ニューラルネットワーク)

学習率と損失の推移

A社のエンジニアが、同じモデルとデータで学習率だけを変え、エポックごとの訓練データの損失を記録した(表)。この結果の解釈として最も適切なものを1つ選べ。

  1. A

    Aは学習率が大きすぎて重みの更新が行き過ぎ、損失が発散したと考えられるので、学習率を下げて試す。

  2. B

    Cは訓練データの損失が順調に下がっているので、未知のデータでも高い精度が出ると判断してよい。

  3. C

    Aは損失が増え続けているので過学習が起きており、正則化を強めたりデータを増やしたりすれば解決する。

  4. D

    Bは損失がほとんど下がらないので過学習が起きており、学習データを減らして調整する。

正解と解説を見る

正解:A

学習率が大きすぎると損失が発散し、小さすぎると学習が遅くなる。過学習や汎化性能は、訓練データの損失だけでなく検証データの損失を見て判断する。

設定学習率1エポック2エポック3エポック4エポック5エポック
A1.02.305.8114.237.5計算不能(数値があふれた)
B0.00012.302.292.282.272.26
C0.012.301.420.910.630.52

学習のポイント:訓練データの損失が増えるのは学習率の問題で、過学習ではない。過学習は訓練データと検証データの差で見る。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。