分類用の RNN を構築しています (RNN の後にソフトマックス層があります)。何を正則化するかについては非常に多くのオプションがあり、それらすべてを試してみるかどうかはわかりません。効果は同じでしょうか? どのコンポーネントをどの状況で正則化するか?
コンポーネントは次のとおりです。
- カーネルの重み (レイヤー入力)
- 反復重み
- バイアス
- アクティベーション機能（レイヤー出力）
14619 次
分類用の RNN を構築しています (RNN の後にソフトマックス層があります)。何を正則化するかについては非常に多くのオプションがあり、それらすべてを試してみるかどうかはわかりません。効果は同じでしょうか? どのコンポーネントをどの状況で正則化するか?
コンポーネントは次のとおりです。