AI資格 模擬試験

生成AIパスポート 模擬試験 第3回 問33・第4章 生成AIのリスク予防・AI倫理・ガバナンス(生成AI利用者の基本マインドセット)

AI判定への過信

A社の経理部では、生成AIで請求書の不備をチェックしている。導入から半年たつと、担当者はAIが「問題なし」と判定した請求書を、中身を見ずに承認するようになった。この状況への対応として、最も適切なものを1つ選べ。

  1. A

    判定を誤った場合の責任はツールを提供した会社が負うので、契約内容を確かめておけば足りる。

  2. B

    AIの判定精度が十分に高いと分かっていれば、精度の数値を記録しておくことで人の確認は省いてよい。

  3. C

    原因は幻覚にあるため、プロンプトに「判定を間違えないこと」と書き加えれば、この問題は解決する。

  4. D

    AIの判定を過信して人の確認が形だけになっているため、確認する範囲や抜き取り点検の方法を決め直す。

正解と解説を見る

正解:D

AIへの過信が進むと、人の確認が形だけになる。人が確認する工程を、実際に機能する形で設計し直す。

学習のポイント:精度が高いツールほど過信が起きやすく、それ自体がリスクになる。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。