AI資格 模擬試験

生成AIパスポート 模擬試験 第6回 問18・第2章 生成AI(LLM(大規模言語モデル)の基礎)

パラメータ数とコンテキスト長

I社の情報システム部が、導入候補のLLMを比べる資料を作っている。資料に記載する「パラメータ数」と「コンテキスト長」の説明として、適切なものを2つ選べ。

  1. A

    パラメータ数は学習で調整される重みの数で、多いほど推論に必要なメモリや計算量も増える。

  2. B

    コンテキスト長を超えて古くなった会話も、モデルが学習して覚えているので、引き続き参照できる。

  3. C

    パラメータ数が多いモデルほど、学習データの対象期間が新しく、知識のカットオフも新しい。

  4. D

    コンテキスト長は1回の処理で扱えるトークン数の上限で、入力と出力の合計で数えることが多い。

正解と解説を見る

正解:A・D

パラメータ数はモデルの規模と必要な資源を、コンテキスト長は1回に扱える情報量を表す。どちらも、知識の新しさや会話の記憶とは別の概念である。

学習のポイント:モデルの「記憶」には、学習済みの重みと、入力中のコンテキストの2種類がある。会話で重みは変わらない。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。