AIインシデントの初動
N社の通販サイトの生成AIチャットボットが、実際より有利な返品条件を複数の顧客に案内していたことが分かった。会社の初動として、最も適切なものを1つ選べ。
- A
画面に「AIの回答は誤りを含むことがあります」と表示を加えれば、案内済みの顧客への対応は不要とする。
- B
指示文を修正してすぐに再開し、同じ誤りが出なければ、社内への報告や記録は省略してよい。
- C
案内した範囲を調べ、回答を一時停止するか人の確認を挟み、対象の顧客に訂正して経緯を記録する。
- D
誤りの原因はモデルにあるので、モデルの提供会社に問い合わせ、回答があるまで現在の運用を続ける。
正解と解説を見る
正解:C
AIの誤りによる問題が起きたら、拡大を止め、影響範囲を把握し、関係者に対応し、原因と対策を記録して再発防止につなげる。
- A
誤り。注意書きは今後の対策の一つにすぎず、すでに誤った案内を受けた顧客への対応は別に必要。
- B
誤り。原因と対応を記録しないと、組織として学べず、似た問題の再発を防げない。
- C
正しい。被害の拡大を止め、影響範囲を把握し、顧客に対応したうえで、再発防止のために記録する。
- D
誤り。サービスを提供しているのはN社であり、自社で被害の拡大を止める対応が先に必要。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。