AIの安全性評価と体制
P社の経営会議で、AIの安全性を評価する取組や制度について報告があった。内容として正しいものを2つ選べ。
- A
レッドチーミングとは、攻撃者の立場で意図的に問題のある入力を試し、AIの弱点や危険な出力を見つける評価の方法である。
- B
日本では2024年に、AIの安全性の評価手法などを検討する機関として、AIセーフティ・インスティテュートが設けられた。
- C
EUのAI規制法はEU域内に拠点を置く企業だけが対象で、域外の企業がEU向けにAIを提供しても適用されない。
- D
AIの安全性の評価は開発者の責任であり、AIを利用する企業が、自社の用途で改めて評価する必要はない。
正解と解説を見る
正解:A・B
AIの安全性は、レッドチーミングなどの評価や、国の評価機関、国際ルールで確かめられる。利用する企業も、自社の用途に応じた評価が必要。
- A
正しい。公開前などに、悪用や誤動作につながる弱点を、攻撃者の視点で洗い出す。
- B
正しい。2024年に設立され、AIの安全性の評価手法の検討や国際的な連携を担っている。
- C
誤り。域外の企業でも、EU市場にAIを提供したり、EU域内で出力が使われたりする場合は対象になりうる。
- D
誤り。同じモデルでも用途によってリスクが変わるため、利用する企業も自社の用途に応じた評価が必要。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。