自己回帰生成と回答の順序
Fさんは、LLMに「最初に結論を『はい』か『いいえ』の一語で答え、その後に理由を書いてください」と指示した。すると、冒頭の結論と、その後に書かれた理由の内容が食い違うことがあった。この原因の説明として、最も適切なものを1つ選べ。
- A
LLMは回答全体を一度に作ってから順番を入れ替えて表示するため、入れ替えるときに内容がずれてしまう。
- B
結論の一語のような短い出力では、温度が自動的に高く設定されるため、結論だけがランダムに決まる。
- C
LLMは前から1トークンずつ生成し、出力済みの部分を前提に続きを書くため、理由を検討する前に結論が決まってしまう。
- D
「結論→理由」の形式の文章は学習データに含まれないため、モデルがこの形式の指示を理解できない。
正解と解説を見る
正解:C
LLMは次のトークンを1つずつ予測して生成し、先に出した内容を後から書き換えない。複雑な判断では、考える過程を先に書かせてから結論を出させる方が、矛盾が起きにくい。
- A
誤り。LLMは全文を一度に作ってから並べ替えるのではなく、前から順にトークンを生成している。
- B
誤り。出力の長さによって温度が自動的に変わる仕組みはない。温度は利用者やシステムの設定で決まる。
- C
正しい。自己回帰生成では、先に出したトークンを後から直せない。結論を先に出させると、推論の過程を経ずに結論が決まりやすい。理由を先に書かせると改善しやすい。
- D
誤り。結論を先に書く文章は学習データに多く含まれる。問題は形式を理解できないことではなく、生成の順序にある。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。