オプティマイザとは

オプティマイザを説明している以下の文で空欄に入る適切な単語を選択肢 1 ~ 3 から選んでください．

DNN では層が深くなればなるほど、訓練に必要な時間は長くなる．
よって訓練効率を上げるためにも，モデルに対して重みの初期化や正規化などの処理が必要であったが，
（ Q1 ___ ) 以外のオプティマイザを利用することで訓練時間をさらに削減できる．

1. 勾配効果法
2. ReLU 活性化関数
3. 平均 2 乗誤差