出力が毎回変わる理由
マーケティング担当のDさんが、同じプロンプトで商品紹介文を3回生成したところ、毎回表現が異なった。この現象の理解として、適切なものを2つ選べ。
- A
LLMは次のトークンの確率分布を計算し、そこから抽選してトークンを選ぶので、同じ入力でも出力が変わりうる。
- B
temperatureを0に近づけると、確率の最も高いトークンが選ばれやすくなり、出力のばらつきは小さくなる。
- C
temperatureを高くすると、モデルが内容をより慎重に検討するようになり、事実の正確さが高まる代わりに表現の種類が減る。
- D
生成のたびに、直前の会話の内容を使ってモデルの重みが更新されるので、同じ入力でも学習が進んだ分だけ出力が変わる。
正解と解説を見る
正解:A・B
出力の揺れは、確率分布からのサンプリングによって生じる。temperatureやtop-pで多様さを調整でき、定型業務では低めに、アイデア出しでは高めに設定するのが一般的である。
- A
正しい。サンプリングでは確率の低い候補も選ばれる可能性があるので、生成のたびに結果が変わる。
- B
正しい。温度を下げると分布が鋭くなり、決定的な出力に近づく。ただし、環境によっては完全には一致しないことがある。
- C
誤り。温度を上げると確率の低い候補も選ばれやすくなり、表現は多様になる。そのぶん、誤りが入る危険は増えやすい。
- D
誤り。推論時にモデルの重みは更新されない。会話の内容が影響するのは、それがコンテキストとして入力に含まれるときだけである。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。