AI判定への過信
A社の経理部では、生成AIで請求書の不備をチェックしている。導入から半年たつと、担当者はAIが「問題なし」と判定した請求書を、中身を見ずに承認するようになった。この状況への対応として、最も適切なものを1つ選べ。
- A
判定を誤った場合の責任はツールを提供した会社が負うので、契約内容を確かめておけば足りる。
- B
AIの判定精度が十分に高いと分かっていれば、精度の数値を記録しておくことで人の確認は省いてよい。
- C
原因は幻覚にあるため、プロンプトに「判定を間違えないこと」と書き加えれば、この問題は解決する。
- D
AIの判定を過信して人の確認が形だけになっているため、確認する範囲や抜き取り点検の方法を決め直す。
正解と解説を見る
正解:D
AIへの過信が進むと、人の確認が形だけになる。人が確認する工程を、実際に機能する形で設計し直す。
- A
誤り。出力を使って承認した判断の責任は、利用者と組織にある。
- B
誤り。精度が高くても、誤りはなくならない。承認の責任は人にあるため、確認の仕組みは必要。
- C
誤り。この問題の中心は、人が確認しなくなったことにある。指示を書き加えても、誤りがなくなる保証はない。
- D
正しい。AIの判定に頼りすぎると、人が確認しなくなる(自動化バイアス)。人が確認する工程を、実際に働く形で残す。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。