AI資格 模擬試験

生成AIパスポート 模擬試験 第2回 問16・第2章 生成AI(LLM(大規模言語モデル)の基礎)

モデルの重みとメモリ量

開発チームは、70億(7×10⁹)個のパラメータを持つLLMを社内サーバーで動かすことを検討している。重みを16ビット(2バイト)の浮動小数点数で保持するとき、重みだけに必要なメモリ容量はおよそいくらか。1GB=10⁹バイトとし、最も適切なものを1つ選べ。

  1. A

    約3.5GB

  2. B

    約7GB

  3. C

    約14GB

  4. D

    約112GB

正解と解説を見る

正解:C

重みのメモリ量は「パラメータ数×1パラメータあたりのバイト数」で見積もれる。量子化でビット数を減らすと、必要なメモリを大きく減らせる。

学習のポイント:16ビットは2バイト。ビットとバイトを取り違えると8倍ずれる。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。