説明しやすいモデルの選択
金融業のA社は、融資審査の補助にAIを導入する。審査で否決となった申込者には、その理由を説明する必要がある。モデルの選択と運用の考え方として適切なものを2つ選べ。
- A
決定木のように判断の分岐を人が追えるモデルも候補に入れ、精度と説明しやすさを比べて選ぶ。
- B
複雑なモデルを使うなら、結果に効いた入力項目を示す説明手法を併用し、担当者が内容を確かめる。
- C
規則を明示する方式より機械学習のほうが判断理由を示しやすいので、ルールベースの方式は避ける。
- D
ディープラーニングは層を深くするほど判断の根拠がはっきりするので、説明が必要な審査に向いている。
正解と解説を見る
正解:A・B
精度の高い複雑なモデルほど、判断の理由を説明しにくい傾向がある。説明責任がある業務では、解釈しやすいモデルを選ぶか、説明手法と人の確認を組み合わせる。
- A
正しい。説明が必要な場面では、精度だけでなく、判断の筋道を人がたどれるかも選ぶ基準になる。
- B
正しい。複雑なモデルでも、説明可能なAI(XAI)の手法で判断に影響した要因を示せる。その内容は人が確認する。
- C
誤り。ルールベースは人が書いた規則で動くので、理由を追いやすいことが長所である。
- D
誤り。層が深くなるほど、判断の根拠は多数の重みに分散し、説明しにくくなる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。