AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問13・第2章 生成AI(生成AIの学習プロセス)

大モデルの出力で小モデル学習

E社は、スマートフォン上で動く小型の言語モデルを作りたい。そこで、高性能な大型モデルにたくさんの質問に答えさせ、その回答や出力の確率分布を教材にして小型モデルを学習させる計画を立てた。この手法として、最も適切なものを1つ選べ。

  1. A

    RLHF

  2. B

    量子化

  3. C

    RAG

  4. D

    知識蒸留

正解と解説を見る

正解:D

知識蒸留は、大型モデル(教師)の出力を教材として小型モデル(生徒)を学習させる。エッジ端末で動かすモデルや、安くて速いモデルを作るときに使われる。

学習のポイント:蒸留は「別の小さいモデルを作り直す」、量子化は「同じモデルの数値を粗くする」と覚える。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。