machine-learning - 回帰におけるローカル基底関数とグローバル基底関数の違いは何ですか?

Question

いくつかの基底関数を使用した回帰について、ガウス基底関数はローカルであるのに対し、多項式基底関数はグローバルであると読みました。どういう意味ですか ？

ありがとうございました

Answer 1

ガウス分布は特定の値を中心としており、そこから遠ざかるにつれて徐々に 0 に近づきます。対照的に、多項式は範囲全体に拡張されます。

これは、ガウシアンがデータの局所的な特徴 (隆起や谷など) をモデル化するのに対し、多項式はデータのグローバル パターン (たとえば、全体的な下降傾向または上昇傾向) をモデル化することを意味します。

Answer 2

ローカル基底関数 (コンパクトにサポートされた基底関数 とも呼ばれます) は、特定の間隔でのみ本質的にゼロではありません。近似/回帰で使用されるこのような関数の例は、B-スプライン、ウェーブレットなどです。一方、多項式は、その根以外のどこでもゼロではありません。単項基底を使用した最小二乗回帰曲線を考えてみましょう。結果の vandermonde 行列はいかなる種類の構造も示さず、要素は x=0 の場合にのみゼロになります。ここで、固定ノットを持つ BSpline 曲線で同じ問題を試みると仮定します。ここで、基底関数がローカルであるため、マトリックスがバンド化されます。基底関数の効果は特定の間隔でのみ存在するため、各行にはゼロ項目が含まれます。