リスクと対策の対応
表のリスク(ア〜ウ)と、それぞれに最も効果的な対策(1〜3)の組合せとして、最も適切なものを1つ選べ。
- A
ア-1、イ-2、ウ-3
- B
ア-3、イ-1、ウ-2
- C
ア-3、イ-2、ウ-1
- D
ア-2、イ-1、ウ-3
正解と解説を見る
正解:B
リスクごとに効く対策が違う。幻覚には検証、漏えいには入力管理、インジェクションには分離と権限の最小化。
| 記号 | 内容 |
|---|---|
| ア | もっともらしい誤った情報が出力される |
| イ | 入力した社外秘の情報が外部に漏れる |
| ウ | 読み込ませた外部の文書に、AIへの不正な指示が埋め込まれている |
| 1 | 入力してはいけない情報を定め、学習に使われない契約や設定のサービスを使う |
| 2 | 外部の文書を指示として扱わないように分け、AIに与える権限を最小にする |
| 3 | 出典を確かめ、公開や送信の前に人が事実を確認する |
- A
誤り。誤った出力には、入力の制限ではなく、事実の確認(3)が効く。
- B
正しい。幻覚には事実の確認、情報漏えいには入力ルールとサービス設定、間接プロンプトインジェクションには指示とデータの分離と権限の最小化が効く。
- C
誤り。不正な指示が埋め込まれていることへの対策は、入力の制限(1)ではなく、指示とデータの分離(2)である。
- D
誤り。権限を最小にしても、幻覚は防げない。また、人の確認だけでは、AIがツールを実行するのを防ぎきれない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。