バックドア攻撃
学習データに、特定の目印（トリガー）を付けたデータを混ぜておき、通常は正常に動作するが、トリガーが入力されたときだけ誤った結果を出すようにする攻撃として、最も適切なものを1つ選べ。
- A
メンバーシップ推論攻撃
- B
モデル抽出攻撃
- C
敵対的サンプル
- D
バックドア攻撃
正解と解説を見る
正解：D
バックドア攻撃は、トリガー付きのデータを学習に混ぜて、特定の入力でだけ誤動作させる。外部の学習データやモデルの出所の確認が重要。
| 攻撃 | 狙う場所 | 内容 |
|---|---|---|
| データポイズニング | 学習データ | 不正なデータを混ぜて誤った学習をさせる |
| バックドア攻撃 | 学習データ | 特定のきっかけで誤動作するよう仕込む |
| 敵対的サンプル | 推論時の入力 | 小さなノイズで誤判定させる |
| モデル抽出攻撃 | モデルの出力 | 大量の問い合わせで同じ働きのモデルを複製する |
| メンバーシップ推論 | モデルの出力 | あるデータが学習に使われたかを推測する |
| プロンプトインジェクション | 入力の文章 | 指示を上書きして意図しない動作をさせる |
| ジェイルブレイク | 入力の文章 | 安全対策をすり抜けさせ、禁止された出力を引き出す |
- A
誤り。あるデータが学習に使われたかを推測する攻撃。
- B
誤り。APIの出力から、モデルを複製する攻撃。
- C
誤り。入力に細工を加えて誤認識させる攻撃。
- D
正しい。外部から取得した学習データや学習済みモデルの安全性の確認が重要。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。