取り消しにくい操作の承認
J社は、ECサイトの問い合わせに対応するAIエージェントに、注文の確認と返金の処理を任せることを検討している。返金処理の安全な設計として、最も適切なものを1つ選べ。
- A
返金額に上限を設け、上限を超える返金や例外的な返金は、人が承認してから実行する
- B
対応を速くするため、返金に加えて注文の取り消しや顧客情報の変更もできる管理者権限を与える
- C
ジェイルブレイクを防ぐ指示をシステムプロンプトに入れ、返金の判断はすべてエージェントに任せる
- D
返金の内容をログに記録しておき、問題が起きたら後から月に1回まとめて確認する
正解と解説を見る
正解:A
エージェントには必要な範囲の権限だけを与え、返金や削除のような取り消しにくい操作の前には人の承認を入れる。事後のログの確認は、事前の承認の代わりにならない。
- A
正しい。返金は実行後に取り消しにくい操作である。影響の大きい操作の前に人の確認を入れ、少額の定型処理は任せることで、安全性と効率を両立できる。
- B
誤り。返金の業務に必要のない権限まで与えると、誤操作や攻撃を受けたときの被害が広がる。権限は業務に必要な範囲に絞る。
- C
誤り。ジェイルブレイク対策だけでは、メールなどに仕込まれたプロンプトインジェクションや、エージェント自身の判断の誤りは防げない。人の確認がなく、影響が大きい。
- D
誤り。記録は大切だが、事後の確認だけでは誤った返金をその場で止められない。取り消しにくい操作には、実行前の確認が必要になる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。