マルチヘッドアテンション
Transformer のマルチヘッドアテンション（Multi-Head Attention）の説明として、最も適切なものを1つ選べ。
- A
1つの Attention を、入力の長さの回数だけ順番に計算する。
- B
複数の Attention（ヘッド）を並列に計算し、それぞれが違う観点の関係をとらえ、結果をつなぎ合わせる。
- C
Attention を使わずに、畳み込みだけで計算する。
- D
単語の位置の情報を加える。
正解と解説を見る
正解：B
マルチヘッドアテンションは、複数の Attention を並列に計算して、違う観点の関係をとらえる。
- A
誤り。マルチヘッドアテンションは並列に計算する。
- B
正しい。例えば、あるヘッドは文法的な関係、別のヘッドは意味の関係に注目するといったことが起こる。
- C
誤り。マルチヘッドアテンションは Attention を使う。
- D
誤り。これは位置エンコーディングの役割。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。