ステキャスティック・デプス
学習中に、残差ネットワークの一部のブロックを、確率的に飛ばして(スキップ結合だけを通して)学習する正則化の手法として、最も適切なものを1つ選べ。
- A
Mixup
- B
Stochastic Depth(確率的な深さ)
- C
ラベル平滑化
- D
バッチ正規化
正解と解説を見る
正解:B
Stochastic Depthは、学習時に、残差ブロックを一定の確率で無効にする。深いネットワークの学習を速くし、過学習も抑える。
| 用語 | 内容 |
|---|---|
| SwiGLU | Swishで作ったゲートと線形変換の積を使う活性化。Transformerのフィードフォワード層で使われる |
| InfoNCE損失 | 対照学習の損失。正例を、多数の負例の中から見分けるように学習する |
| Dice損失 | セグメンテーションで、予測と正解の重なりの割合にもとづく損失。クラス不均衡に強い |
| ステキャスティック・デプス | 学習時に層をランダムに飛ばして、深いネットワークの学習を安定させる |
- A
誤り。2つのデータとラベルを混ぜる。
- B
正しい。学習時の実質的な深さを浅くし、推論時はすべてのブロックを使う。
- C
誤り。正解ラベルを少しぼかす。
- D
誤り。層の出力をそろえる。
このサイトの問題は、各試験の公開されているシラバスに沿って作ったオリジナルの模擬問題です。本試験の問題ではありません。日本ディープラーニング協会(JDLA)・一般社団法人生成AI活用普及協会(GUGA)の公式サービスではありません。