ハルシネーションへの対策
大規模言語モデルが、事実と異なる内容を、もっともらしく出力する問題(ハルシネーション)への対策として、最も適切なものを1つ選べ。
- A
モデルは、必ず正しいので、出力をそのまま公開する。
- B
根拠となる情報(検索結果や文書)を与えて回答させ、出典を示させ、重要な内容は人が確認する。
- C
温度を上げて、出力を、できるだけランダムにする。
- D
質問に、すべて「はい」と答えさせる。
正解と解説を見る
正解:B
ハルシネーションは、完全には防げない。根拠となる情報を与える(グラウンディング)、出典の提示、重要な情報の人手の確認、不確かな場合は答えない設計などを組み合わせる。
- A
誤り。誤りを含みうる。
- B
正しい。完全にはなくならないので、確認の仕組みが必要。
- C
誤り。誤りが増える可能性がある。
- D
誤り。誤った回答を増やす。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。