AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問17・第2章 生成AI(LLM(大規模言語モデル)の基礎)

モデル軽量化の手法

H社は、GPUのメモリが限られた社内サーバーで、オープンなLLMを動かしたい。性能の低下をなるべく抑えながら、モデルのメモリ使用量や計算量を減らす手法として適切なものを2つ選べ。

  1. A

    重みを16ビットから4ビットなど、より少ないビット数で表す量子化を行う。

  2. B

    コンテキスト長を長く設定して、1回で多くの情報をまとめて処理させる。

  3. C

    出力への影響が小さい重みや構造を取り除く、枝刈り(プルーニング)を行う。

  4. D

    社内文書を検索して入力に加えるRAGを導入し、モデルが覚える知識の量を減らす。

正解と解説を見る

正解:A・C

LLMの軽量化には、量子化・枝刈り・知識蒸留などがある。RAGやコンテキスト長の調整は、モデルの大きさを小さくする手法ではない。

学習のポイント:「知識を外に出す(RAG)」ことと「モデルを小さくする」ことを混同しない。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。