AI資格 模擬試験

生成AIパスポート 模擬試験 第2回 問12・第2章 生成AI(生成AIの学習プロセス)

効率的なファインチューニング

C社は、公開されている大規模言語モデルを自社の契約書チェック用に調整したい。そこで、元のモデルの重みは固定し、低ランク行列などの少数の追加パラメータだけを学習する手法(LoRAなど)を検討している。この手法の利点として、最も適切なものを1つ選べ。

  1. A

    全パラメータを更新するより学習に必要なGPUメモリと保存容量を抑えられ、用途ごとの小さな差分を切り替えて使える。

  2. B

    事前学習をやり直さなくても、学習データの期限より後の最新情報を、質問のたびにリアルタイムで回答に反映できる。

  3. C

    推論時のモデル全体のパラメータ数が元の数分の一になり、蒸留で小型化したのと同じように応答が速くなる。

  4. D

    学習用のデータを用意しなくても、プロンプトに書いた指示だけで追加パラメータが自動的に調整される。

正解と解説を見る

正解:A

LoRAなどのパラメータ効率の良いファインチューニング(PEFT)は、元のモデルを固定し、小さな追加部分だけを学習する。少ない計算資源で、用途ごとの調整ができる。

学習のポイント:効率化されるのは学習のコストで、推論時のモデルが小さくなるわけではない。蒸留・量子化と混同しない。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。