代理変数
ある企業が、採用の書類選考に使うAIから「性別」の項目を取り除いて学習させた。ところが、結果を調べると、女性の合格率が男性より大きく低かった。調べると、「部活動の種類」や「出身校の種類」が性別と強く結びついていた。この状況の説明と対応として、最も適切なものを1つ選べ。
- A
性別の項目を取り除いたので、偏りは存在しないと結論づけてよい
- B
合格率の差は、必ず応募者の能力の差によるものである
- C
性別と強く結びつく別の特徴量が代理変数として働いているため、特徴量の見直しや、結果を属性ごとに確認する仕組みが必要である
- D
すべての特徴量を削除し、AIを使わずにランダムで決める
正解と解説を見る
正解：C
属性を学習データから取り除いても、その属性と強く相関する特徴量が代理変数として働き、偏りが残ることがある。結果を属性ごとに確かめる必要がある。
- A
誤り。代理変数を通じて偏りが残りうる。
- B
誤り。差の原因は、検証しなければ分からない。
- C
正しい。属性を取り除くだけでは、偏りは解消しないことがある。
- D
誤り。公平性の確保の方法として適切ではない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。