API呼び出しと会話履歴
Iさんは、LLMのAPIを使って社内向けチャットボットを試作した。1回目に「新製品Xの特徴を教えて」と送り、2回目に「それの価格は?」と送ったところ、2回目の回答は「それ」が何を指すかが分からない内容になった。原因と対処として、最も適切なものを1つ選べ。
- A
APIのLLMは呼び出しごとに独立して処理するため、過去のやり取りをリクエストに含めて送る必要がある。
- B
会話はモデルの重みに自動で追加学習されるが、反映に時間がかかるため、しばらく待ってから再送する。
- C
2回目以降の呼び出しでは温度が自動的に上がるため、温度を0に固定し直して再送する。
- D
1回目の内容がモデルの知識の期限より新しいため参照できないので、期限の新しいモデルに切り替える。
正解と解説を見る
正解:A
LLMは、その呼び出しで渡された入力だけを見て出力を作る(ステートレス)。会話を続けるには、アプリ側で履歴を管理し、毎回入力に含めて送る。
- A
正しい。LLMは前回の会話を自動では覚えていない。チャットアプリは、会話履歴を毎回入力に含めることで、話の流れを保っている。
- B
誤り。推論のためにAPIを呼び出しても、モデルの重みは更新されない。待っても会話の内容は反映されない。
- C
誤り。呼び出しの回数によって温度が変わることはない。温度を変えても、前の会話を参照できるようにはならない。
- D
誤り。知識の期限は学習データの話であり、同じ会話の中で送った内容を参照できないこととは関係がない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。