古い情報と幻覚の区別
法務部のCさんが、検索機能のない生成AIに、ある法律の届出期限を質問した。回答は、数年前の改正前の条文と一致する期限で、当時としては正しい内容だった。このような回答になった原因として、最も適切なものを1つ選べ。
- A
第三者がモデルの学習データに細工をするデータポイズニングにより、意図的に古い期限を覚えさせた。
- B
質問文に含まれた指示がモデルの安全制限を外すプロンプトインジェクションとなり、誤答を誘発した。
- C
モデルは学習データの時点までの情報で答えるため、その後の改正を反映できていなかった。
- D
モデルが存在しない条文をもっともらしく作り出すハルシネーションが起き、誤った期限を示した。
正解と解説を見る
正解:C
検索機能のないモデルは、学習データの時点より後の改正や出来事を知らない。法令や制度は、最新の一次情報で確かめる。
- A
誤り。細工を疑う事情はない。学習時点より後の改正を知らないことで説明できる。
- B
誤り。Cさんは期限を質問しただけで、指示を乗っ取る入力は含まれていない。
- C
正しい。当時は正しかった内容と一致していることから、学習時点より後の情報がないことが原因と考えられる。
- D
誤り。実在した改正前の条文と一致しており、架空の内容を作り出したわけではない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。