AI資格 模擬試験

生成AIパスポート 模擬試験 第3回 問48・第4章 生成AIのリスク予防・AI倫理・ガバナンス(生成AIの代表的リスク)

実在しないパッケージ名

A社の開発者が生成AIにコードを書かせたところ、見覚えのないライブラリ名を読み込む行が含まれていた。パッケージの公開サイトで調べると、同じ名前のパッケージが数日前に公開されたばかりで、作者の情報もほとんどない。この状況の捉え方と対応として、最も適切なものを1つ選べ。

  1. A

    主なリスクは著作権の侵害である。パッケージのライセンス表記を確認し、商用利用が許可されていれば、そのまま導入してよい。

  2. B

    同じ名前のパッケージが実際に存在するので、幻覚ではない。AIが新しいライブラリまで正しく把握していた結果と判断して導入する。

  3. C

    AIが出力しがちな架空の名前を第三者が先に登録した、悪意あるパッケージの可能性がある。導入せずに、公式の文書で実在するライブラリを確かめる。

  4. D

    プロンプトインジェクションでAIの出力が書き換えられた結果である。会話をやり直してコードを生成し直せば、リスクはなくなる。

正解と解説を見る

正解:C

生成AIは、実在しないパッケージ名をもっともらしく出力することがある。その名前を悪用した登録が行われることもあるため、公式の情報で実在と信頼性を確かめてから導入する。

学習のポイント:同じ名前が見つかっても、それで安全とは言えない。幻覚がサプライチェーン攻撃の入口になる点がひっかけ。

この問題を演習で解く →

生成AIパスポートのトップへ 問題一覧へ

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。