影響の大きい判断と人の関与
N保険会社は、保険金の請求をAIで審査し、支払うか断るかを判定する仕組みを検討している。人間中心や公平性といったAI倫理の観点から、運用の方針として最も適切なものを1つ選べ。
- A
評価用データでの正解率が95%以上あれば、人による確認を設けずに判定を確定させてよい。
- B
判定の理由を開示すると悪用されるおそれがあるため、AIを使っていること自体を伏せる。
- C
AIは担当者ごとのばらつきがなく公平なため、判定に人を関与させないほうが望ましい。
- D
支払いを断るなど不利益の大きい判定はAIだけで確定させず、人が確認し、説明や再審査を求められるようにする。
正解と解説を見る
正解:D
不利益の大きい判断にAIを使うときは、人が関与し、本人が説明や再審査を求められる仕組みを用意する。
- A
誤り。正解率が高くても、残りの誤判定は特定の人に重い不利益を与える。特定の属性に誤りが偏っていないかも確かめる必要がある。
- B
誤り。悪用への配慮は必要だが、AIを使っている事実まで隠すのは透明性に反する。開示の範囲を工夫して説明責任を果たす。
- C
誤り。AIは学習データの偏りを一貫して再現することがある。ばらつきがないことと、公平であることは別の問題。
- D
正しい。人の権利や利益に大きく影響する判断では、人が関与し、本人が説明や見直しを求められる仕組みが重要になる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。