メンバーシップ推論攻撃
学習済みモデルの出力を調べて、ある特定の人のデータがそのモデルの学習に使われたかどうかを推測する攻撃を何というか。最も適切なものを1つ選べ。
- A
データポイズニング
- B
メンバーシップ推論攻撃
- C
敵対的サンプル
- D
プロンプトインジェクション
正解と解説を見る
正解：B
メンバーシップ推論攻撃は、ある人のデータが学習に使われたかどうかを推測する攻撃。
| 攻撃 | 狙う場所 | 内容 |
|---|---|---|
| データポイズニング | 学習データ | 不正なデータを混ぜて誤った学習をさせる |
| バックドア攻撃 | 学習データ | 特定のきっかけで誤動作するよう仕込む |
| 敵対的サンプル | 推論時の入力 | 小さなノイズで誤判定させる |
| モデル抽出攻撃 | モデルの出力 | 大量の問い合わせで同じ働きのモデルを複製する |
| メンバーシップ推論 | モデルの出力 | あるデータが学習に使われたかを推測する |
| プロンプトインジェクション | 入力の文章 | 指示を上書きして意図しない動作をさせる |
| ジェイルブレイク | 入力の文章 | 安全対策をすり抜けさせ、禁止された出力を引き出す |
- A
誤り。学習データに不正なデータを混ぜる攻撃。
- B
正しい。病院のデータで学習したモデルなら、ある人が患者だったことが推測されるおそれがあり、プライバシーの侵害につながる。差分プライバシーなどが対策になる。
- C
誤り。わずかなノイズでAIに誤認識させる入力。
- D
誤り。悪意のある指示を紛れ込ませて言語モデルに意図しない動作をさせる攻撃。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。