AI資格 模擬試験

生成AIパスポート 模擬試験 第1回 問32・第3章 AIエージェント（AIエージェントのリスク・安全性・評価）

間接プロンプトインジェクション

1. A

   ジェイルブレイク。利用者が巧妙な指示で、モデルの安全上の制限を外させた。

2. B

   データポイズニング。学習データに細工した文書が混ぜられ、モデルの判断が変わった。

3. C

   敵対的サンプル。人には見えない細工をした入力で、モデルに誤認識させた。

4. D

   間接プロンプトインジェクション。外部の内容に紛れた指示を、正当な指示として扱った。

正解と解説を見る

正解：D

エージェントが、外部のコンテンツ（ウェブ・メール・文書）を読むとき、そこに埋め込まれた指示に従ってしまうことがある。入力の検証、権限の制限、人の承認、出力の検証で備える。

ウェブページに隠された指示をAIが従ってしまうのが、間接プロンプトインジェクション。

• A

  誤り。ジェイルブレイクは、利用者自身がプロンプトで制限を回避させる攻撃。この例は、外部の内容に紛れた指示。

• B

  誤り。学習の段階を狙う攻撃。この例は、利用時に読んだ内容の指示に従っている。

• C

  誤り。画像などに細工をして、分類などを誤らせる攻撃。指示を実行させるものではない。

• D

  正しい。データと指示の区別がつかないことが原因。

学習のポイント：データと指示を区別できない点が根本の課題。

問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。