学習データの再出力
B社は、過去の問い合わせ記録をそのまま使って、FAQボットをファインチューニングした(RAGは使っていない)。テストの途中で、ある質問に対し、実在する顧客の氏名と注文内容を含む文が出力された。原因と対策の組合せとして、最も適切なものを1つ選べ。
- A
検索対象の閲覧権限の設定漏れである。文書ごとのアクセス権の設定を見直す。
- B
利用者によるプロンプトインジェクションである。入力欄に禁止語のフィルタを入れる。
- C
モデルが学習データの一部を記憶して出力した。学習の前に個人情報を除去・置換する。
- D
ハルシネーションで架空の名前が出ただけである。温度を下げて出力を安定させる。
正解と解説を見る
正解:C
ファインチューニングでは、学習データに含まれる個人情報や機密が、そのまま出力されることがある。学習の前に、データから個人情報を除去・置換しておく。
- A
誤り。RAGを使っていないので、検索や閲覧権限の問題ではない。ファインチューニングとRAGの取り違え。
- B
誤り。通常の質問で起きており、原因は学習データ側にある。入力フィルタでは防げない。
- C
正しい。追加学習に使ったデータの一部を、モデルがそのまま出力することがある。学習データから個人情報を除いておくのが根本的な対策。
- D
誤り。実在する顧客の情報と一致しているので、学習データ由来と考えられる。温度を下げても、記憶された情報は消えない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。