AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問18・第2章 生成AI(LLM(大規模言語モデル)の基礎)

API呼び出しと会話履歴

Iさんは、LLMのAPIを使って社内向けチャットボットを試作した。1回目に「新製品Xの特徴を教えて」と送り、2回目に「それの価格は?」と送ったところ、2回目の回答は「それ」が何を指すかが分からない内容になった。原因と対処として、最も適切なものを1つ選べ。

  1. A

    APIのLLMは呼び出しごとに独立して処理するため、過去のやり取りをリクエストに含めて送る必要がある。

  2. B

    会話はモデルの重みに自動で追加学習されるが、反映に時間がかかるため、しばらく待ってから再送する。

  3. C

    2回目以降の呼び出しでは温度が自動的に上がるため、温度を0に固定し直して再送する。

  4. D

    1回目の内容がモデルの知識の期限より新しいため参照できないので、期限の新しいモデルに切り替える。

正解と解説を見る

正解:A

LLMは、その呼び出しで渡された入力だけを見て出力を作る(ステートレス)。会話を続けるには、アプリ側で履歴を管理し、毎回入力に含めて送る。

学習のポイント:会話履歴を送るとトークン数が増え、料金やコンテキスト長の上限にも影響する。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。