バッチ正規化を説明している以下の文で空欄に入る適切な単語を選択肢 1 ~ 3 から選んでください. バッチ正規化とは,訓練時に前層のパラメータの変化に伴い、各層の ( Q1 ___ ) が変化する問題に対応するための処理である. 1. 入力サイズ 2. 入力ノイズ 3. 入力分布
Category Archives: 未分類
バッチ正規化のメリット、デメリット
バッチ正規化を説明している以下の文で正しいものを選択肢 1 ~ 3 から選んでください. 1. バッチ正規化を適応するとモデルの構造が単純となるため,とりあえずバッチ正規化を用いると良い. 2. バッチ正規化を適応するとモデルの構造は複雑となるため,プレーンな ELU や He 初期化を最初に試すと良い. 3. バッチ正規化を適応するとモデルの構造は複雑となるが,訓練は高速化されるためとりあえずバッチ正規化を用いると良い.
バッチ正規化のメリット、デメリット
バッチ正規化を説明している以下の文で正しいものを選択肢から選んでください. 1. バッチ正規化を適応するとモデルの構造が単純となるため,とりあえずバッチ正規化を用いると良い. 2. バッチ正規化を適応するとモデルの構造は複雑となるため,プレーンな ELU や He 初期化を最初に試すと良い. 3. バッチ正規化を適応するとモデルの構造は複雑となるが,訓練は高速化されるためとりあえずバッチ正規化を用いると良い. 4. バッチ正規化にはモデルの汎化性能を低下させるといった問題が存在する.
バッチ正規化のメリット、デメリット
バッチ正規化を説明している以下の文で正しいものを選択肢から選んでください. 1. バッチ正規化を適応するとモデルの構造は複雑となるため,プレーンな ELU や He 初期化を最初に試すと良い. 2. バッチ正規化を適応するとモデルの構造が単純となるため,とりあえずバッチ正規化を用いると良い. 3. バッチ正規化にはモデルの汎化性能を低下させるといった問題が存在する. 4. バッチ正規化は、活性化関数の後に用いると良い
勾配消失問題
勾配降下法を説明している以下の文で空欄に入る適切な単語を選択肢 1 ~ 3 からそれぞれ選んでください. ロジスティック関数の出力は 0 か 1 で飽和するため、ロジスティック関数への ( Q1 ___ ) の絶対値が大きいとすぐに飽和してしまう. よって、導関数は極端に( Q2 ___ ) に近くなってしまうため、( Q3 __ ) するために必要な勾配がほとんど消滅してしまう. また、( Q3 ___ ) が始まったとしても上位層から徐々に勾配が消滅していくため、下位層ではほぼ完全に勾配が消滅してしまう. [Q1の選択肢] 1. 重み 2. 特徴量 3. 入力 [Q2の選択肢] 1.10.5 2. 3. 0 [Q3の選択肢] 1. 正則化 2. バックプロパゲーション 3. 次元削減
勾配消失問題
勾配消失問題の説明として正しいものを選んでください. [選択肢] 1. 勾配消失問題は中間層の活性化関数に sigmoid 関数を用いた場合にのみ発生するので、活性化関数の選択には十分注意が必要である. 2. 勾配消失問題とは、前進パスにおける各層のニューロンの出力値が徐々に小さくなっていくことで、 バックプロパゲーションに必要な重みが消滅してしまう現象である. 3. 勾配消失問題とは、バックプロパゲーション時に勾配が徐々に急になっていくことで、各層の重みが非常に大きくなる現象である. 4. 勾配消失問題は、各層の入出力の値を正規化することで緩和できる.
勾配消失問題
勾配消失問題の説明として正しいものを選んでください. [選択肢] 1. 勾配消失問題は中間層の活性化関数に sigmoid 関数を用いた場合にのみ発生するので、活性化関数の選択には十分注意が必要である. 2. 勾配消失問題とは、バックプロパゲーション時に勾配が徐々に急になっていくことで、各層の重みが非常に大きくなる現象である. 3. 勾配消失問題は、各層の入出力の値を正規化することで緩和できる. 4. 勾配消失問題とは、前進パスにおける各層のニューロンの出力値が徐々に小さくなっていくことで、 バックプロパゲーションに必要な重みが消滅してしまう現象である.
重みの初期化
重みの初期化を説明している以下の文のうち、その説明が正しくないものを選択肢 1 ~ 3 から選んでください. 1. 重みを初期化しないと、学習にかかる時間が大きくなることがある. 2. 重みの初期化は勾配消失問題の解決策となるが、勾配爆発問題には効果がない. 3. 重みを初期化することで、ノードの出力の偏りが解消されモデルの表現力に制限を加えることができる.
重みの初期化
重みの初期化を説明している以下の文のうち、その説明が正しくないものを選択肢 1 ~ 3 から選んでください. 1. 重みの初期化は勾配消失問題の解決策となるが、勾配爆発問題には効果がない. 2. 重みを初期化することで、ノードの出力の偏りが解消されモデルの表現力に制限を加えることができる. 3. 重みを初期化しないと、学習にかかる時間が大きくなることがある.
Glorot (Xaiver) の初期値
Xaiver の初期値を説明している以下の文で空欄に入る適切な単語を選択肢からそれぞれ選んでください. バックプロパゲーションをする時には順方向と逆方向で適切に信号を流す必要がある. しかし、適切に信号を流すためには、各層の入力と出力の接続数を統一するなどし、層を通過する前と後での勾配の ( Q1 ___ ) を等しくしておく必要がある. 実際には、各層の入力と出力の接続数は異なるため、接続部の ( Q2 ___ ) をランダムに初期化することで妥協する. [Q1の選択肢] 1. 分散 2. 平均値 3. 数 4. 初期値 [Q2の選択肢] 1. 勾配 2. 重み 3. 活性化関数 4. ニューロン数