AI資格 模擬試験

G検定 模擬試験 第5回 問68・ディープラーニングの要素技術（Attention）

KVキャッシュ

大規模言語モデルで、文章を1語ずつ生成するときに、過去の語のKeyとValueを保存して再利用する工夫として、最も適切なものを1つ選べ。

  1. A

    KVキャッシュ

  2. B

    勾配クリッピング

  3. C

    バッチ正規化

  4. D

    データ拡張

正解と解説を見る

正解：A

KVキャッシュは、過去の語のKeyとValueを保存して再利用する。生成を高速にできるが、メモリを使う。

新しい単語のQueryが、保存済みのKey・Value（キャッシュ）と新しいKey・Valueを使ってAttentionを計算する流れ図。

KVキャッシュ：生成済みの単語のKey・Valueを保存しておき、次の単語を作るときに再利用して、計算を減らす。

学習のポイント：文脈が長くなるほど、キャッシュのメモリが大きくなる。

この問題を演習で解く →

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。