1

SilvaとAlmeidaのアルゴリズムは、重みごとに個別の適応学習率を導入することにより、既存のバックプロパゲーションアルゴリズムを改善します。新しい学習率の値は次のように計算されます。

次のステップのための学習定数

定数uとdがとに設定されているu > 1ことを読みましたd < 1。これらの制約はかなり広いので、これらの値を設定するための一般的なガイドラインはありますか、それとも特定の問題を実験して理解する必要がありますか？

4

1 に答える 1

2

ほとんどの問題に適合するための適切な「開始」値は、u = 1.2 および d = 0.8 を試すことであると読みましたが、現在ソースを見つけることができません。

編集： 見つけました、PDFページ10-11

また、モメンタム項を導入してアルゴリズムを改善する方法についてのコメントにも注意してください。まだ持っていない場合は...

于 2011-11-13T21:01:33.910 に答える