問題タブ [momentum]

質問する

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

77 問題
Newest
Active
Bountied
318
Unanswered
0 投票する
1 に答える
190 参照

keras - keras Batchnormに運動量パラメータが1つしかないのはなぜですか?

私は CNN を初めて使用し、keras を使用して CNN で Batchnorm を実装していました。バッチ ノルム レイヤーには、4*Feature_map (前のレイヤーの) パラメーターがあります。次のとおりです。

  1. 2つはガンマとベータ
  2. 他の 2 つは、ミニバッチの平均と分散の指数移動平均です。

ここで、平均と分散の指数移動平均は次のように定義されます。

Keras の BatchNormalization 関数では、運動量という名前のハイパーパラメータが 1 つだけあることがわかりました。

私の質問は、ランニング平均とランニング分散の運動量の個別のハイパーパラメーターがないのはなぜですか?


12345678910