-1

勾配降下法のデフォルト値は 1e-5 です。

これは、テスト セットに一般化するための非常に小さな値ですか? どの範囲にとどめればいいですか？

勾配は、トレーニング中 (つまり、トレーニング データを使用) にターゲットと予測されたクラスとの間の誤差を示していますか?

4

1 に答える 1

1

正則化を使用していない場合は、学習率のいくつかの値と反復回数のいくつかの値を確認する必要があります。これは、ホールド アウト セット (検証セットとも呼ばれます) で行う必要があります。正則化を使用している場合は、これを行うべきではなく、代わりに正則化項の重みに対していくつかの値を試してください (通常は C またはラムダ)。

値に関しては、人々は 2^-10 から 2^-1 を試します。また、一般に、特徴値が妥当な数値範囲 (-1 から 1) または (0 から 1) にある場合に役立ちます。

于 2013-05-15T18:30:35.463 に答える