検索対象の閲覧権限
A社は、全社員が使う社内問い合わせ用のRAGを作った。回答の精度を上げるため、人事評価の資料や役員会の議事録も検索対象に入れたところ、一般社員の質問への回答に役員会の議事内容が引用された。再発を防ぐ対策として、最も適切なものを1つ選べ。
- A
検索の段階で利用者の閲覧権限を照合し、その人が本来見られない文書は、LLMに渡す候補に入れないようにする。
- B
人事資料と議事録でモデルをファインチューニングし、検索を使わずにモデルの知識だけで答える形に改める。
- C
チャンクを小さく分割し直して、1回の回答に引用される機密部分の文字数を少なくなるように調整する。
- D
システムプロンプトに「機密情報は回答に含めないこと」と書き加え、伏せるかどうかをLLMの判断に任せる。
正解と解説を見る
正解:A
RAGでは、取り出した文書がそのままLLMの入力になる。アクセス制御は、生成時の指示ではなく検索の段階で行い、利用者の権限を超える文書を候補に入れない設計にする。
- A
正しい。LLMに渡る前に権限で絞り込めば、見せてはいけない情報がそもそも回答の材料にならない。
- B
誤り。重みに取り込まれた情報は利用者ごとに出し分けられないため、権限の管理がかえって難しくなる。
- C
誤り。漏れる量が減るだけで、権限のない人に機密が渡る状態は変わらない。
- D
誤り。機密文書はすでにLLMに渡っており、指示だけでは確実に伏せられない。プロンプトインジェクションで指示が破られるおそれもある。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。