1

dWバックプロパゲーションは、パターンごとの重みごとに(重みデルタ)を計算するため、確率的トレーニングを行うときに重みを変更する方法は簡単です。ただし、バッチトレーニングに使用するにはどうすればよいですか?トレーニングセット全体に蓄積dWしてから変更を適用するだけですか、それともそれ以上のものがありますか?

4

2 に答える 2

2

さまざまなサンプルのさまざまなグラデーションを使用して、多くのことができます。これには、高次情報(近似二次導関数)または共役勾配または自然勾配または... :)が含まれます

于 2010-01-26T19:39:55.127 に答える
0

はい、トレーニング セット全体で dW を累積するだけです。少なくともそれは私が大学院でそれをコーディングした方法です...

于 2010-01-26T14:32:58.757 に答える