ジェイルブレイク
大規模言語モデルに対して、巧妙な指示や設定で、本来は拒否するはずの出力をさせてしまうような、安全対策を回避する行為として、最も適切なものを1つ選べ。
- A
ジェイルブレイク
- B
ファインチューニング
- C
データ拡張
- D
量子化
正解と解説を見る
正解：A
ジェイルブレイクは、プロンプトの工夫などでモデルの安全対策を回避する行為。レッドチーミングで事前に弱点を見つける。
| 攻撃 | 狙う場所 | 内容 |
|---|---|---|
| データポイズニング | 学習データ | 不正なデータを混ぜて誤った学習をさせる |
| バックドア攻撃 | 学習データ | 特定のきっかけで誤動作するよう仕込む |
| 敵対的サンプル | 推論時の入力 | 小さなノイズで誤判定させる |
| モデル抽出攻撃 | モデルの出力 | 大量の問い合わせで同じ働きのモデルを複製する |
| メンバーシップ推論 | モデルの出力 | あるデータが学習に使われたかを推測する |
| プロンプトインジェクション | 入力の文章 | 指示を上書きして意図しない動作をさせる |
| ジェイルブレイク | 入力の文章 | 安全対策をすり抜けさせ、禁止された出力を引き出す |
- A
正しい。モデルの提供者は、対策を継続的に更新する必要がある。
- B
誤り。学習済みモデルの追加の調整。
- C
誤り。学習データを増やす手法。
- D
誤り。モデルを軽量化する手法。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。