AI資格 模擬試験

生成AIパスポート 模擬試験 第2回 問32・第3章 AIエージェント(AIエージェントのリスク・安全性・評価)

取り消しにくい操作の承認

J社は、ECサイトの問い合わせに対応するAIエージェントに、注文の確認と返金の処理を任せることを検討している。返金処理の安全な設計として、最も適切なものを1つ選べ。

  1. A

    返金額に上限を設け、上限を超える返金や例外的な返金は、人が承認してから実行する

  2. B

    対応を速くするため、返金に加えて注文の取り消しや顧客情報の変更もできる管理者権限を与える

  3. C

    ジェイルブレイクを防ぐ指示をシステムプロンプトに入れ、返金の判断はすべてエージェントに任せる

  4. D

    返金の内容をログに記録しておき、問題が起きたら後から月に1回まとめて確認する

正解と解説を見る

正解:A

エージェントには必要な範囲の権限だけを与え、返金や削除のような取り消しにくい操作の前には人の承認を入れる。事後のログの確認は、事前の承認の代わりにならない。

学習のポイント:ジェイルブレイク(利用者が制限を破らせる)と、プロンプトインジェクション(外部のデータに指示を仕込む)を区別する。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。