長い入力の中ほどの見落とし
G社は、200ページの業務マニュアル全文をLLMに入力して質問している。入力はコンテキストウィンドウの上限内に収まっているが、マニュアルの中ほどに書かれた内容についての質問では、該当箇所を見落とした回答が多かった。改善策として適切なものを2つ選べ。
- A
質問に関係する箇所を検索で絞り込み、必要な部分だけを入力する。
- B
上限内に収まっているので入力はそのままにして、温度を上げて回答させる。
- C
マニュアルを章ごとに分けて回答や要約をさせ、その結果をまとめる。
- D
上限に余裕があるので、関連の薄い社内資料も追加して文脈を補う。
正解と解説を見る
正解:A・C
コンテキストウィンドウの上限内であっても、長い入力の中ほどにある情報は参照されにくいことがある(lost in the middle)。入力を絞る、分割して処理する、といった工夫が有効である。
- A
正しい。入力を短くして関係する情報に絞ると、長い入力の中ほどにある情報を見落とす問題を避けやすい。RAGの考え方である。
- B
誤り。温度は出力のばらつきを調整する設定であり、入力の中ほどにある情報を参照しやすくする効果はない。
- C
正しい。1回に扱う量を減らすことで、それぞれの部分が参照されやすくなる。
- D
誤り。関係の薄い情報を増やすと、必要な箇所がさらに埋もれやすくなる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。