AI資格 模擬試験

G検定 模擬試験 第4回 問64・ディープラーニングの要素技術(Attention)

Query・Key・Value

Attentionの説明として、最も適切なものを1つ選べ。

  1. A

    Keyの値をそのまま出力として返す

  2. B

    Queryをすべて0にしてからValueの合計を求める

  3. C

    Queryと各Keyの類似度から重みを求め、その重みでValueを加重平均した結果を出力する

  4. D

    Valueの値を学習中に固定して更新しない

正解と解説を見る

正解:C

Attentionは、Queryに対するKeyの類似度で重みを決め、Valueを加重平均する仕組み。重みはソフトマックスで合計1に正規化される。

学習のポイント:Self-Attentionでは、Query・Key・Valueが同じ入力から作られる。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。