1750億パラメータ級の転機
2020年に発表された約1,750億パラメータの言語モデルは、その後の生成AIの発展に大きな影響を与えた。このモデルが特に注目された点として、最も適切なものを1つ選べ。
- A
人が回答を比べた評価を使って出力を調整する手法を取り入れ、一般向けの対話サービスとして公開された。
- B
画像とテキストの両方を入力として受け取れる、マルチモーダルな言語モデルとして登場した。
- C
エンコーダだけの構造で文の前後両方向から文脈を読み、穴埋め問題を解く形で事前学習した。
- D
入力に数個の例を示すだけで、重みを更新せずにさまざまなタスクをこなせる能力(文脈内学習)を示した。
正解と解説を見る
正解:D
2020年の大規模なデコーダ型モデルは、規模を大きくするとFew-shotで多くのタスクを解けることを示した。これが、2022年の対話型AIの公開へとつながる流れの起点の一つになった。
- A
誤り。RLHFで調整し、対話サービスとして広く公開されたのは、2022年に登場した対話型AIである。
- B
誤り。画像も入力できる大規模言語モデルが広く使われ始めたのは、2023年以降である。
- C
誤り。2018年に発表された、エンコーダ型のモデルの特徴である。2020年のこのモデルはデコーダ型である。
- D
正しい。モデルを大きくすることで、Few-shotの例をプロンプトに示すだけで多くのタスクを解けることを示し、プロンプトで指示する使い方が広がるきっかけになった。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。