プロンプトインジェクション
大規模言語モデルを使ったサービスで、入力やモデルが読み込む文書に悪意のある指示を紛れ込ませ、開発者の意図しない動作（秘密の情報の出力など）をさせる攻撃を何というか。最も適切なものを1つ選べ。
- A
データポイズニング
- B
プロンプトインジェクション
- C
モデル反転攻撃
- D
敵対的サンプル
正解と解説を見る
正解：B
プロンプトインジェクションは、悪意のある指示を紛れ込ませて言語モデルに意図しない動作をさせる攻撃。
| 攻撃 | 狙う場所 | 内容 |
|---|---|---|
| データポイズニング | 学習データ | 不正なデータを混ぜて誤った学習をさせる |
| バックドア攻撃 | 学習データ | 特定のきっかけで誤動作するよう仕込む |
| 敵対的サンプル | 推論時の入力 | 小さなノイズで誤判定させる |
| モデル抽出攻撃 | モデルの出力 | 大量の問い合わせで同じ働きのモデルを複製する |
| メンバーシップ推論 | モデルの出力 | あるデータが学習に使われたかを推測する |
| プロンプトインジェクション | 入力の文章 | 指示を上書きして意図しない動作をさせる |
| ジェイルブレイク | 入力の文章 | 安全対策をすり抜けさせ、禁止された出力を引き出す |
- A
誤り。学習データに不正なデータを混ぜる攻撃。
- B
正しい。モデルが読む外部の文書やウェブページに指示が仕込まれる場合（間接的なプロンプトインジェクション）もある。入力の検査や、モデルに与える権限を必要な範囲に限ることなどが対策になる。
- C
誤り。モデルの出力から学習データを推測する攻撃。
- D
誤り。わずかなノイズで画像認識などを誤らせる入力。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。