top-kで残した候補の確率
表は、LLMが「売上を〜させる」の空欄に入る次のトークンを予測したときの、候補ごとの確率である。top-kサンプリングをk=3で行う。上位3つの候補だけを残して、確率の合計が1になるように割り直してから1つを選ぶ。このとき「向上」が選ばれる確率として、最も近いものを1つ選べ(温度は1とし、確率は変わらないものとする)。
- A
25%
- B
約31%
- C
約33%
- D
約63%
正解と解説を見る
正解:B
top-kは、確率の高い上位k個の候補だけを残し、合計が1になるように割り直してから選ぶ。上位から確率を足して、合計が閾値に達するまでを残すtop-pとは、候補の残し方が違う。
| 候補トークン | 確率 |
|---|---|
| 改善 | 0.40 |
| 向上 | 0.25 |
| 強化 | 0.15 |
| 維持 | 0.10 |
| 低下 | 0.10 |
- A
誤り。もとの確率0.25のまま。上位3つに絞ると合計は0.80になるので、割り直す必要がある。
- B
正しい。上位3つの合計は0.40+0.25+0.15=0.80。「向上」は0.25÷0.80=0.3125で、約31%になる。
- C
誤り。残った3つを等しい確率(1/3)として扱っている。割り直しても、確率の比はもとのまま保たれる。
- D
誤り。0.25を1位の0.40で割っている(0.25÷0.40≒0.625)。分母は、残した候補の確率の合計にする。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。