He初期化とXavier初期化

正解：C

ReLUにはHeの初期化、シグモイドやtanhにはXavierの初期化が適している。すべて同じ値にすると、ユニットが区別されなくなる。

重みの初期値：小さすぎると層を通るたびに信号が消え、He初期化（ReLU向け）やXavier初期化は信号の大きさを保つ。

• A

  誤り。シグモイド関数やtanhのように、原点付近で線形に近い活性化関数に適している。

• B

  誤り。ユニットが同じ更新を受け、対称性が壊れない。

• C

  正しい。ReLUで半分の出力が0になることを考慮して、分散を大きめにする。

• D

  誤り。同様に対称性が壊れず、学習が進まない。

学習のポイント：活性化関数と初期化の組み合わせで、勾配消失や爆発が起きにくくなる。