AI資格 模擬試験

G検定 模擬試験 第5回 問70・ディープラーニングの要素技術（Attention）

Transformerのフィードフォワード層

Transformerの各ブロックにある、Attentionの後ろのフィードフォワード層（位置ごとの全結合層）の役割として、最も適切なものを1つ選べ。

  1. A

    語の順序を決める

  2. B

    入力を単語に分割する

  3. C

    出力を画像に変換する

  4. D

    各位置のベクトルに、同じ重みで非線形な変換を加え、表現力を高める

正解と解説を見る

正解：D

フィードフォワード層は、各位置のベクトルを独立に、同じ重みで変換する。Attentionと組み合わせて、Transformerの表現力を支える。

学習のポイント：Transformerの1ブロックは、Attention＋フィードフォワード層＋残差接続＋正規化。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。