AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問14・第2章 生成AI(生成AIの生成(推論)プロセス)

貪欲法で選ばれる文

表は、あるLLMが文の最初の2トークンを生成するときの確率である。各ステップで最も確率の高いトークンを選ぶ方法(貪欲法)で2トークンを生成した場合の説明として、正しいものを1つ選べ。なお、2トークン通しての確率は、各ステップの確率の積とする。

  1. A

    貪欲法は「今日は」(確率0.36)を選び、2トークン通しての確率が最も高い組合せとも一致する。

  2. B

    貪欲法は「明日は」を選び、その確率は0.5+0.4=0.90なので、2トークン通しても最も高い。

  3. C

    貪欲法は「明日は」(確率0.20)を選び、これが2トークン通しても最も高い組合せである。

  4. D

    貪欲法は「明日は」(確率0.20)を選び、2トークン通しての確率が最も高い「今日は」(確率0.36)とは異なる。

正解と解説を見る

正解:D

貪欲法は各ステップで最も確率の高いトークンを選ぶが、文全体の確率が最大になるとは限らない。複数の候補を残しながら探すビームサーチは、この問題を和らげる。

ステップ直前のトークン候補(確率)
1トークン目なし「明日」0.5/「今日」0.4/「昨日」0.1
2トークン目「明日」「は」0.4/「も」0.35/「の」0.25
2トークン目「今日」「は」0.9/「も」0.1

学習のポイント:通しての確率は「積」で比べる。最初のステップで確率が高い候補が、最後まで有利とは限らない。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。