AI出力の形式チェック
I社は、問い合わせメールを生成AIで分類し、その結果をJSON形式で受付システムに自動登録する仕組みを作った。ところが、まれにJSONとして読めない出力や、定めていないカテゴリ名が返り、登録エラーが起きる。対策として、最も適切なものを1つ選べ。
- A
プロンプトに正しいJSONの出力例を3つ加える。例を示したので、システムに渡す前の形式チェックは省く。
- B
読めない出力や未定義のカテゴリは、すべて「その他」として自動登録し、エラーを出さずに処理を続ける。
- C
過去の問い合わせでファインチューニングし、形式違反をなくす。そのうえで、登録前の検証処理は削除する。
- D
項目名や許容するカテゴリ値を定義したスキーマで出力を検証する。違反した出力は再生成するか、人の確認待ちに回す。
正解と解説を見る
正解:D
AIを業務システムにつなぐときは、出力をスキーマで検証し、違反時の再生成や人への引き継ぎを設計しておく。
- A
誤り。Few-shotで形式は安定しやすいが、違反がなくなるわけではない。検証は残す。
- B
誤り。エラーは消えるが、誤分類が人に気づかれないまま蓄積し、対応漏れにつながる。
- C
誤り。追加学習で違反は減っても、ゼロになる保証はない。検証を外すとエラーが再発する。
- D
正しい。生成AIの出力は確率的に揺れる。システムに渡す前に形式を検証し、例外の扱いを決めておくのが基本である。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。