運用コストの見積もり
大規模言語モデルのAPIを使ったサービスを企画している。運用コストの見積もりで、考慮すべきこととして、最も適切なものを1つ選べ。
- A
API の費用は、利用量に関係なく一定なので、見積もりは不要である。
- B
利用者数は、考慮せず、開発の費用だけを見積もる。
- C
入出力の文字数(トークン数)に応じた従量課金、利用者数や1人あたりの利用回数、キャッシュによる削減、応答時間の要件を、見積もりに含める。
- D
プロンプトの長さは、費用に影響しない。
正解と解説を見る
正解:C
生成AIの運用コストは、トークン数、リクエスト数、モデルの選択に比例して増える。プロンプトの短縮、キャッシュ、小型のモデルとの使い分けで抑える。
- A
誤り。従量課金が一般的。
- B
誤り。運用コストが大きくなりうる。
- C
正しい。利用の増加による、費用の増え方も試算する。
- D
誤り。入力のトークン数で費用が変わる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。