勾配消失問題

勾配消失問題の説明として正しいものを選んでください.

[選択肢]
1. 勾配消失問題は中間層の活性化関数に sigmoid 関数を用いた場合にのみ発生するので、活性化関数の選択には十分注意が必要である.
2. 勾配消失問題とは、バックプロパゲーション時に勾配が徐々に急になっていくことで、各層の重みが非常に大きくなる現象である.
3. 勾配消失問題は、各層の入出力の値を正規化することで緩和できる.
4. 勾配消失問題とは、前進パスにおける各層のニューロンの出力値が徐々に小さくなっていくことで、
 バックプロパゲーションに必要な重みが消滅してしまう現象である.

Leave a comment

Your email address will not be published. Required fields are marked *