要件に合うモデルの選定
A社の人事部は、社外に出せない人事評価資料を要約するLLMを選んでいる。要件は次の3点である。①社外のクラウドに送らず、自社サーバーで動かすこと。②1回に約80,000トークンの資料を入力できること。③社内のGPUメモリの合計160GBで動かせること。なお、入力はテキストのみで、画像を扱う必要はない。表の候補のうち、要件をすべて満たすものとして最も適切なものを1つ選べ。
- A
モデルP
- B
モデルR
- C
モデルQ
- D
モデルS
正解と解説を見る
正解:B
モデルを選ぶときは、性能や機能の多さだけでなく、提供形態(クラウドAPIか重み公開か)、コンテキスト長、必要な計算資源を要件と1つずつ照らし合わせる。
| モデル | 提供形態 | コンテキスト長 | 動作に必要なGPUメモリ | 画像入力 |
|---|---|---|---|---|
| P | クラウドAPIのみ | 200,000トークン | -(提供側で実行) | 可 |
| Q | 重み公開(自社サーバーで実行可) | 32,000トークン | 40GB | 不可 |
| R | 重み公開(自社サーバーで実行可) | 128,000トークン | 140GB | 不可 |
| S | 重み公開(自社サーバーで実行可) | 128,000トークン | 800GB | 可 |
- A
誤り。コンテキスト長は十分だが、クラウドAPIでしか使えないため、資料を社外に送ることになり要件①を満たさない。
- B
正しい。自社サーバーで実行でき、コンテキスト長128,000トークンは80,000トークン以上ある。必要なGPUメモリ140GBも160GB以内に収まる。画像入力は要件にないので、不可でも問題ない。
- C
誤り。自社サーバーで動かせてGPUメモリも足りるが、コンテキスト長32,000トークンは80,000トークンに届かず、要件②を満たさない。
- D
誤り。自社実行とコンテキスト長の要件は満たすが、必要なGPUメモリ800GBが社内の160GBを大きく超えるため、要件③を満たさない。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。