AI資格 模擬試験

生成AIパスポート 模擬試験 第5回 問36・第4章 生成AIのリスク予防・AI倫理・ガバナンス(生成AIの代表的リスク)

学習データの再出力

B社は、過去の問い合わせ記録をそのまま使って、FAQボットをファインチューニングした(RAGは使っていない)。テストの途中で、ある質問に対し、実在する顧客の氏名と注文内容を含む文が出力された。原因と対策の組合せとして、最も適切なものを1つ選べ。

  1. A

    検索対象の閲覧権限の設定漏れである。文書ごとのアクセス権の設定を見直す。

  2. B

    利用者によるプロンプトインジェクションである。入力欄に禁止語のフィルタを入れる。

  3. C

    モデルが学習データの一部を記憶して出力した。学習の前に個人情報を除去・置換する。

  4. D

    ハルシネーションで架空の名前が出ただけである。温度を下げて出力を安定させる。

正解と解説を見る

正解:C

ファインチューニングでは、学習データに含まれる個人情報や機密が、そのまま出力されることがある。学習の前に、データから個人情報を除去・置換しておく。

学習のポイント:RAGを使っていなければ、閲覧権限の問題ではない。情報がどこから出てきたかで原因を切り分ける。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。