0

私たちは皆、なげなわ最適化という文献で十分に文書化されている概念に精通しています(簡単にするために、ここでは線形回帰の場合に注意を限定します)

loss = || y - x b ||^2 + c || b || 

パラメータにラプラス事前分布が与えられているガウス誤差を伴う線形モデルと同等です

exp(-c || b || )

また、調整パラメーター c を高く設定すると、ゼロに設定されるパラメーターの部分が大きくなることもわかっています。そうは言っても、私は次の思考の質問があります。

ベイジアンの観点から、非ゼロのパラメーター推定値が間隔の任意のコレクションにあり、なげなわによってゼロに設定されたパラメーターがゼロに等しいという事後確率を計算できると考えてください。私が混乱したのは、ラプラス事前分布が連続 (実際には絶対連続) であることを考えると、{0} で間隔とシングルトンの積である任意の集合に質量が存在する可能性があることです。

4

0 に答える 0