Momentum 最適化の実装

Tensorflow を用いて、Momentum 最適化を実装してください.( 慣性は 0.9 ) M_optimizer = ########## 1. tf.train.MomentumOptimizer(learning_rate=learning_rate, momentum=0.9, use_nesterov=True) 2. tf.train.MomentumOptimizer(learning_rate=learning_rate, momentum=0.9, use_nesterov=False) 3. tf.optimizer.MomentumOptimizer(learning_rate=learning_rate, momentum=0.9, use_nesterov=True) 4. tf.optimizer.MomentumOptimizer(learning_rate=learning_rate, momentum=0.9, use_nesterov=False)

ネステロフ慣性最適化

ネステロフ慣性最適化を説明している以下の文で空欄に入る適切な単語を選択肢 1 ~ 3 から選んでください. ネステロフ慣性最適化では,Momentum 慣性最適化を応用し,慣性が働く方向を読み少し ( Q1 ___ ) 勾配を重みとして用いる. 1. 後ろに進んだところの 2. 前に進んだところの 3. 小さな

バッチ正規化のメリット、デメリット

バッチ正規化のメリットとして正しくないものを選んでください. 1. ディープラーニングモデルの学習にかかる時間を減らすことができる. 2. 過学習を緩和できる. 3. 初期値への依存性を減らせる. 4. モデルをファインチューニングしやすくする.

バッチ正規化の実装

次のコードで空欄になっている行に入る適切なものを 1 ~ 3 からそれぞれ選び, バッチ正規化によって DNN モデルを正規化してください. import tensorflow as tf n_inputs = 28 * 28 n_hidden1 = 300 n_hidden2 = 100 n_outputs = 10 X = tf.placeholder(tf.float32, shape=(None, n_inputs), name=”X”) train = tf.placeholder_with_default(False, shape=(), name=’training’) hidden1 = tf.layers.dense(X, n_hidden1, name=”hidden1″) # Q1:hidden1 をバッチ正規化してください. bn1 = ########## [Q1の選択肢] 1. tf.layers.batch_normalize(hidden1, training=x, momentum=0.9) 2. tf.layers.batchnormalization(hidden1, […]