AI資格 模擬試験

生成AIパスポート 模擬試験 第3回 問15・第2章 生成AI(LLM(大規模言語モデル)の基礎)

量子化と必要なメモリ

A社は、パラメータ数70億のLLMを社内サーバで動かすため、各パラメータを8ビット(1バイト)に量子化して保存する。重みの保存だけに必要なメモリ量として、最も適切なものを1つ選べ。なお、1GB=10億(10^9)バイトとし、重み以外のメモリは考えない。

  1. A

    約0.875GB

  2. B

    約7GB

  3. C

    約14GB

  4. D

    約56GB

正解と解説を見る

正解:B

重みのメモリ量は「パラメータ数×1パラメータあたりのバイト数」で概算できる。量子化で精度を下げるほどメモリは減るが、精度が落ちることがある。

学習のポイント:16ビット=2バイト、8ビット=1バイト、4ビット=0.5バイト。ビットとバイトの換算ミスに注意する。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。