machine-learning - リッジ回帰でバイアス項が正則化されないのはなぜですか?

Question

ほとんどの分類 (ロジスティック / 線形回帰など) では、正則化中にバイアス項は無視されます。バイアス項を正則化しないと、より良い分類が得られるでしょうか?

Answer 1

例：

Y = aX + b

の正則化は、過適合は、いわば「過度に具体的」でYあることによって引き起こされるという考えに基づいています。これは通常、の要素の大きな値によって明らかになります。aa

b関係を相殺するだけであり、その規模はこの問題にとってはるかに重要ではありません。さらに、何らかの理由で大きなオフセットが必要な場合、正規化すると正しい関係を見つけることができなくなります。

したがって、答えは次のとおりです。 inはY = aX + b、a説明/独立変数で乗算bされ、それに追加されます。