Query・Key・Value
Attentionの説明として、最も適切なものを1つ選べ。
- A
Keyの値をそのまま出力として返す
- B
Queryをすべて0にしてからValueの合計を求める
- C
Queryと各Keyの類似度から重みを求め、その重みでValueを加重平均した結果を出力する
- D
Valueの値を学習中に固定して更新しない
正解と解説を見る
正解:C
Attentionは、Queryに対するKeyの類似度で重みを決め、Valueを加重平均する仕組み。重みはソフトマックスで合計1に正規化される。
- A
誤り。KeyはValueを選ぶための手がかり。
- B
誤り。Queryとの類似度を使う。
- C
正しい。重みはソフトマックスで正規化され、合計が1になる。
- D
誤り。そのような決まりはない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。