学習データへの仕込み
A社は、ネット上の商品レビューを大量に集めて自社の対話モデルを追加学習させた。運用を始めたところ、ある特定の言い回しを含む質問にだけ、競合を中傷する文を返すことが分かった。調べると、何者かがその言い回しを含むレビューを、集める前に大量に投稿していた。このリスクに最も当てはまるものを1つ選べ。
- A
ジェイルブレイク
- B
プロンプトインジェクション
- C
データポイズニング
- D
ハルシネーション
正解と解説を見る
正解:C
データポイズニングは「学習時」の攻撃、プロンプトインジェクションは「利用時」の攻撃。外部から集めたデータは、出どころの確認と選別が重要になる。
- A
誤り。ジェイルブレイクは、利用者が工夫した入力で安全上の制限を外させる行為を指す。学習データの改ざんではない。
- B
誤り。プロンプトインジェクションは、使うときの入力に指示を紛れ込ませる攻撃である。今回は学習の段階でデータが汚されている。
- C
正しい。学習に使われるデータに、細工したデータを混ぜて、モデルのふるまいをゆがめる攻撃である。特定の言い回しが引き金になる点も典型的。
- D
誤り。ハルシネーションは、もっともらしい誤りを生成してしまう現象である。第三者が意図して仕込んだふるまいではない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。