AI資格 模擬試験

生成AIパスポート 模擬試験 第5回 問12・第2章 生成AI(生成AIの学習プロセス)

対話型LLMの学習順序

A社の研修資料には、対話型LLMを作るときの代表的な学習工程ア〜ウが、順番がばらばらの状態で載っている。一般的な実施順序として、最も適切なものを1つ選べ。

  1. A

    ア → イ → ウ

  2. B

    イ → ア → ウ

  3. C

    イ → ウ → ア

  4. D

    ウ → イ → ア

正解と解説を見る

正解:C

対話型LLMは一般に、事前学習(次トークン予測)、指示チューニング(教師ありファインチューニング)、選好による調整(RLHFなど)の順に作られる。

記号工程の内容
ア同じ質問への複数の回答を人が比べた選好データを使い、より有用で安全な回答を出すように調整する
イWeb文書や書籍などの大量のテキストで、次のトークンを予測する学習を行う
ウ指示文と模範回答の組を使い、指示に沿って回答するように教師ありで学習する

学習のポイント:「まず大量に読んで言葉を覚え、次に指示に従う練習をし、最後に人の好みに合わせる」と流れで覚える。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。