実在しないパッケージ名
A社の開発者が生成AIにコードを書かせたところ、見覚えのないライブラリ名を読み込む行が含まれていた。パッケージの公開サイトで調べると、同じ名前のパッケージが数日前に公開されたばかりで、作者の情報もほとんどない。この状況の捉え方と対応として、最も適切なものを1つ選べ。
- A
主なリスクは著作権の侵害である。パッケージのライセンス表記を確認し、商用利用が許可されていれば、そのまま導入してよい。
- B
同じ名前のパッケージが実際に存在するので、幻覚ではない。AIが新しいライブラリまで正しく把握していた結果と判断して導入する。
- C
AIが出力しがちな架空の名前を第三者が先に登録した、悪意あるパッケージの可能性がある。導入せずに、公式の文書で実在するライブラリを確かめる。
- D
プロンプトインジェクションでAIの出力が書き換えられた結果である。会話をやり直してコードを生成し直せば、リスクはなくなる。
正解と解説を見る
正解:C
生成AIは、実在しないパッケージ名をもっともらしく出力することがある。その名前を悪用した登録が行われることもあるため、公式の情報で実在と信頼性を確かめてから導入する。
- A
誤り。ライセンスの確認は別の論点で、悪意あるコードが含まれていないかの確認にはならない。
- B
誤り。同じ名前が存在することは、内容が安全であることも、AIの提案が正しいことも示さない。公開直後で作者の情報が乏しい点は、警戒すべき兆候である。
- C
正しい。AIは実在しないパッケージ名を出力することがある。その名前を攻撃者が先に登録し、マルウェアを仕込む手口が知られている。名前が存在するだけで安全とは判断できない。
- D
誤り。この状況から、外部からの指示の混入があったとは言えない。生成し直しても、すでに登録されている不審なパッケージを導入するリスクは残る。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。