モデル抽出攻撃
APIとして公開されているモデルに大量の入力を送り、その出力を集めて、ほぼ同じ働きをするモデルを複製する攻撃として、最も適切なものを1つ選べ。
- A
モデル抽出攻撃
- B
データポイズニング
- C
敵対的サンプル
- D
メンバーシップ推論攻撃
正解と解説を見る
正解：A
モデル抽出攻撃は、APIへの大量の問い合わせで、モデルを複製する。利用回数の制限や出力の制限が対策になる。
| 攻撃 | 狙う場所 | 内容 |
|---|---|---|
| データポイズニング | 学習データ | 不正なデータを混ぜて誤った学習をさせる |
| バックドア攻撃 | 学習データ | 特定のきっかけで誤動作するよう仕込む |
| 敵対的サンプル | 推論時の入力 | 小さなノイズで誤判定させる |
| モデル抽出攻撃 | モデルの出力 | 大量の問い合わせで同じ働きのモデルを複製する |
| メンバーシップ推論 | モデルの出力 | あるデータが学習に使われたかを推測する |
| プロンプトインジェクション | 入力の文章 | 指示を上書きして意図しない動作をさせる |
| ジェイルブレイク | 入力の文章 | 安全対策をすり抜けさせ、禁止された出力を引き出す |
- A
正しい。事業者の知的財産が盗まれる、というリスクがある。
- B
誤り。学習データに悪意のあるデータを混ぜる攻撃。
- C
誤り。入力に細工を加えて誤認識させる攻撃。
- D
誤り。あるデータが学習に使われたかを推測する攻撃。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。