G検定模擬試験第5回問59・ディープラーニングの要素技術（正規化層）

RMSNorm

大規模言語モデルで、平均を引く処理を省き、二乗平均平方根で割ることで正規化を行い、層正規化より計算を単純にした手法として、最も適切なものを1つ選べ。

正解と解説を見る

正解：A

RMSNormは、平均を引かず、二乗平均平方根だけで正規化する。LLaMAなどの大規模言語モデルで使われる。

学習のポイント：層正規化との違いは、平均を使うかどうか。

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。