AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問25・第3章 AIエージェント(RAG(検索拡張生成))

検索対象の閲覧権限

A社は、全社員が使う社内問い合わせ用のRAGを作った。回答の精度を上げるため、人事評価の資料や役員会の議事録も検索対象に入れたところ、一般社員の質問への回答に役員会の議事内容が引用された。再発を防ぐ対策として、最も適切なものを1つ選べ。

  1. A

    検索の段階で利用者の閲覧権限を照合し、その人が本来見られない文書は、LLMに渡す候補に入れないようにする。

  2. B

    人事資料と議事録でモデルをファインチューニングし、検索を使わずにモデルの知識だけで答える形に改める。

  3. C

    チャンクを小さく分割し直して、1回の回答に引用される機密部分の文字数を少なくなるように調整する。

  4. D

    システムプロンプトに「機密情報は回答に含めないこと」と書き加え、伏せるかどうかをLLMの判断に任せる。

正解と解説を見る

正解:A

RAGでは、取り出した文書がそのままLLMの入力になる。アクセス制御は、生成時の指示ではなく検索の段階で行い、利用者の権限を超える文書を候補に入れない設計にする。

学習のポイント:「プロンプトで隠す」は対策にならない。LLMに渡る前に絞り込む。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。