keras - Keras では、weight_regularizer と activity_regularizer の違いは何ですか?

Question

正則化は通常、大きな重みにペナルティを課すために損失に k*w^2 を追加することを理解しています。しかし、Keras には、weight_regularizer と activity_regularizer という 2 つの正則化パラメーターがあります。違いはなんですか？

Answer 1

違いはactivity_regularizer、中間層からの出力に適用されることであり、大きな層の出力にペナルティを課します。