より強力な正則化を追加すると (たとえば、L2 正則化パラメータを 1 から 10 に、またはドロップアウト パラメータを 0.75 から 0.5 に)、パフォーマンスが低下し、パフォーマンスが低下しました (たとえば、3000 ~ 4000 回の反復で 97 ~ 98% のテスト精度がわずか 94 ~ 95% になりました)。 3000 ~ 4000 回の繰り返しで精度をテストします)。これが発生する理由はありますか?すべてが正しく実装されていることを確認できます。ありがとうございました!
編集: 私のプログラムにはオーバーフィッティング (約 1%) があることに注意したいだけです。また、ドロップアウトの有無にかかわらず、トレーニングとテストの精度の違いはほぼ同じであるようです。