短期記憶と長期記憶
E社のカスタマーサポート用AIエージェントは、1回の対話の中では顧客の話を覚えているが、翌日に同じ顧客が問い合わせると、前回の内容を何も覚えていない。前回までのやり取りを踏まえて対応できるようにする方法として、最も適切なものを1つ選べ。
- A
top-pの値を大きくして、LLMが過去の対話の内容を思い出しやすくする
- B
毎晩、その日の問い合わせ内容でLLMをファインチューニングし、顧客ごとの経緯を覚えさせる
- C
対応の要点を外部のデータベースに保存し、次の問い合わせで顧客ごとに検索してコンテキストに加える
- D
コンテキスト長がより長いLLMに変えて、前日の対話も文脈の中に残るようにする
正解と解説を見る
正解:C
エージェントの記憶には、対話の中で保たれる短期記憶と、外部に保存して必要なときに取り出す長期記憶がある。対話をまたいで情報を使うには、長期記憶の仕組みを用意する。
- A
誤り。top-pは次のトークンの候補をどこまで含めるかの設定で、記憶の量とは関係ない。前回の対話の内容はLLMに渡されていない。
- B
誤り。ファインチューニングは個々の顧客の経緯を正確に覚えさせる方法に向かない。コストがかかり、個人情報がモデルに入り込むおそれもある。
- C
正しい。会話の文脈(短期記憶)は対話が終わると消えるため、外部に保存した情報(長期記憶)を必要なときに取り出して渡す仕組みにする。
- D
誤り。コンテキストは対話ごとに渡す情報であり、長くしても前日の対話が自動で残るわけではない。前回の内容を保存して渡す仕組みが必要になる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。