自己回帰的な文章生成
A社の新入社員研修で、「チャット型AIの回答が1語ずつ表示される理由」について説明することになった。LLMの文章生成(推論)の説明として、適切なものを2つ選べ。
- A
生成したトークンを入力の末尾に加え、それを手がかりに次のトークンを予測する処理を繰り返している。
- B
出力が長いほど予測を繰り返す回数が増えるので、応答が終わるまでの時間は長くなりやすい。
- C
一度出力したトークンも、後のトークンを予測した結果に合わせて自動で書き換えられる。
- D
文章全体を一度に作り終えてから、利用者が読みやすいように1語ずつ区切って表示している。
正解と解説を見る
正解:A・B
LLMは、次トークン予測を繰り返して文章を作る自己回帰モデルである。出力済みのトークンは変わらず、出力が長いほど生成に時間がかかる。
- A
正しい。これが自己回帰的な生成で、1トークンずつ出力できるので順に表示される。
- B
正しい。1トークンごとに予測を行うので、出力するトークン数に応じて時間がかかる。
- C
誤り。通常の生成では、出力済みのトークンは変わらない。そのため、途中で誤ると後の文もそれに引きずられやすい。
- D
誤り。文章を一度に作るのではなく、実際に1トークンずつ順に生成している。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。