G検定模擬試験第6回問79・ディープラーニングの応用例（転移学習・ファインチューニング）

プロンプトチューニング

大規模な言語モデルの重みを固定したまま、入力の先頭に付ける、学習可能な連続的なベクトル（ソフトプロンプト）だけを学習して、タスクに適応させる方法として、最も適切なものを1つ選べ。

正解と解説を見る

正解：B

プロンプトチューニングは、モデルを凍結し、入力の埋め込みの先頭に付ける、学習可能なベクトルだけを更新する。タスクごとに、小さな追加パラメータだけを保存すればよい。

大規模言語モデルを使う・調整する方法の違い。
方法	モデルの重み	内容
プロンプトチューニング	更新しない（追加のベクトルだけ学習）	入力に付け足す学習可能なベクトルだけを調整する
ファインチューニング	更新する	追加のデータで重みを調整する

学習のポイント：LoRA・アダプタと並ぶ、PEFTの手法。

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。