エージェントを安全に使う原則
AIエージェントを業務で安全に使うための原則として適切なものを、次のうちから2つ選べ。
- A
送金や削除のような影響の大きい操作は、人の承認（Human-in-the-Loop）を挟む。
- B
エージェントに与える権限は、必要最小限にする（最小権限の原則）。
- C
作業を止めないよう、エージェントが求めた権限は、その都度自動で付与する。
- D
外部のサイトから取得した内容は、信頼できる指示として、そのまま実行させる。
正解と解説を見る
正解：A・B
連鎖的にエラーが広がったり、プロンプトインジェクションで意図しない操作をされたりするリスクがある。権限の最小化、承認、ログ、評価・監視で備える。
| 項目 | 内容 |
|---|---|
| AIエージェント | 目標に向けて、自分で計画し、ツールを使いながら、複数の手順を実行する |
| 安全に使う原則 | 最小権限、重要な操作は人が承認、実行の記録（ログ）を残す |
- A
正しい。重要な判断は、人が確認する。
- B
正しい。誤動作や乗っ取りの被害を小さくする。
- C
誤り。権限は必要最小限に絞り、追加は人が判断する。
- D
誤り。外部の内容は、指示ではなくデータとして扱う（プロンプトインジェクションの対策）。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。