AI資格 模擬試験

生成AIパスポート 模擬試験 第5回 問31・第3章 AIエージェント(AIエージェントのリスク・安全性・評価)

要約エージェントの権限設計

情報システム部は、社内のチケット管理システムから特定のプロジェクトのチケットを読み、週次の要約を作るエージェントを導入する。エージェントに渡す権限の設計として適切なものを、2つ選べ。

  1. A

    設定の手間を減らすため、導入担当者の個人の認証情報をそのまま使わせる。

  2. B

    チケットを読む操作だけができる、読み取り専用の認証情報を発行して使わせる。

  3. C

    参照できる範囲を、要約の対象となるプロジェクトのチケットだけに限定する。

  4. D

    削除権限も付けてよいが、システムプロンプトで「削除操作はしない」と明記しておく。

正解と解説を見る

正解:B・C

エージェントには、作業に必要な操作と範囲だけを権限として与える。禁止したい操作は、プロンプトの指示ではなく権限の設定で防ぐ。

学習のポイント:「プロンプトで禁止したから安全」はひっかけ。守りは権限の側で作る。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。