AI資格 模擬試験

生成AIパスポート 模擬試験 第5回 問35・第4章 生成AIのリスク予防・AI倫理・ガバナンス(生成AIの代表的リスク)

学習データ汚染の見分け

A社は、公開Webから自動で集めた文章を使って、チャットボットを追加学習した。運用を始めると、特定の製品名を含む質問のときだけ、競合製品へ誘導する回答が出ることが分かった。調べると、収集元の一部に、その誘導文を大量に含むページがあった。この事象に最も近いリスクを1つ選べ。

  1. A

    ハルシネーション

  2. B

    ジェイルブレイク

  3. C

    データポイズニング

  4. D

    間接プロンプトインジェクション

正解と解説を見る

正解:C

データポイズニングは、学習の段階で不正なデータを混ぜ、モデルの出力をゆがめる攻撃。Webから自動で集めたデータで学習する場合は、収集元の確認やデータの点検が必要になる。

学習のポイント:細工が入る場所で見分ける。学習データならポイズニング、推論時に読む文書ならプロンプトインジェクション。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。