AI資格 模擬試験

G検定 模擬試験 第4回 問19・人工知能をめぐる動向(ディープラーニング)

Transformerの登場

2017年にGoogleの研究者らが発表した論文「Attention Is All You Need」で提案された、再帰や畳み込みを使わずAttentionのみで構成したモデルとして、最も適切なものを1つ選べ。

  1. A

    LSTM

  2. B

    VGG

  3. C

    ボルツマンマシン

  4. D

    Transformer

正解と解説を見る

正解:D

Transformerは2017年に提案された、Attentionだけで系列を処理するモデル。BERTやGPTなどの土台になっている。

1986年の誤差逆伝播法の普及から2023年のGPT-4までの、ディープラーニングの主な出来事の年表(LeNet、ILSVRC 2012のAlexNet、GAN、ResNet、Transformer、GPT-3、ChatGPT)。

ディープラーニングの歴史:誤差逆伝播法の普及(1986)・LeNet・事前学習の提案(2006)・ILSVRC 2012(AlexNet)・GAN・ResNet・Transformer・GPT-3・ChatGPT・GPT-4。

学習のポイント:再帰を使わないことで並列計算ができ、大規模なデータでの学習が現実的になった点が重要。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。