G検定模擬試験第6回問46・ディープラーニングの概要（誤差関数）

InfoNCE損失

対照学習で、同じデータから作った2つの見え方（正例）を近づけ、他のデータ（負例）から遠ざけるように、ソフトマックスに基づいて計算する損失として、最も適切なものを1つ選べ。

正解と解説を見る

正解：A

InfoNCE損失は、正例ペアの類似度が、負例との類似度より高くなるように、ソフトマックスの交差エントロピーの形で学習する。負例の数が多いほど、効果的。

損失関数・活性化関数・学習の補足。
用語	内容
SwiGLU	Swishで作ったゲートと線形変換の積を使う活性化。Transformerのフィードフォワード層で使われる
InfoNCE損失	対照学習の損失。正例を、多数の負例の中から見分けるように学習する
Dice損失	セグメンテーションで、予測と正解の重なりの割合にもとづく損失。クラス不均衡に強い
ステキャスティック・デプス	学習時に層をランダムに飛ばして、深いネットワークの学習を安定させる

学習のポイント：CLIPは、画像と文章のペアに、この損失を使う。

このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会（JDLA）・一般社団法人生成AI活用普及協会（GUGA）の公式サービスではありません。