問題タブ [sgd]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - tf.keras SGD バッチについて
tf.keras で SGD オプティマイザを使用したい。しかし、SGDの詳細は言った
勾配降下 (運動量あり) オプティマイザー。
SGD が「データセットフェーズで例をランダムにシャッフルする」をサポートしていないということですか?
SGDソースを確認したところ、ランダムシャッフル方式はないようです。SGD についての私の理解は、ランダム サンプルに勾配降下法を適用することです。
ただし、Momentum と Nesterov を使用した勾配降下のみを行います。
コードで定義したバッチサイズは、SGD ランダム シャッフル フェーズを表していますか?
もしそうなら、ランダムにシャッフルしますが、同じデータセットを使用することはありませんね?
私の理解は正しいですか?
以下のようにバッチに関するコードを書きました。
python - モメンタムと減衰を正しく実装する方法 - SGD
ミニバッチ SGD に運動量と減衰を適用しようとしています: 重みを更新する正しい方法は何でしょうか。減衰が設定されるとすぐに奇妙な結果が得られます..