AI資格 模擬試験

生成AIパスポート 模擬試験 第4回 問35・第4章 生成AIのリスク予防・AI倫理・ガバナンス(生成AIの代表的リスク)

学習データへの仕込み

A社は、ネット上の商品レビューを大量に集めて自社の対話モデルを追加学習させた。運用を始めたところ、ある特定の言い回しを含む質問にだけ、競合を中傷する文を返すことが分かった。調べると、何者かがその言い回しを含むレビューを、集める前に大量に投稿していた。このリスクに最も当てはまるものを1つ選べ。

  1. A

    ジェイルブレイク

  2. B

    プロンプトインジェクション

  3. C

    データポイズニング

  4. D

    ハルシネーション

正解と解説を見る

正解:C

データポイズニングは「学習時」の攻撃、プロンプトインジェクションは「利用時」の攻撃。外部から集めたデータは、出どころの確認と選別が重要になる。

学習のポイント:攻撃が「いつ」仕込まれたか(学習データか、使うときの入力か)で見分ける。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。