SVM に関するウィキペディアのページをざっと見たところ、次の行が目に留まりました。「使用されるカーネルがガウス動径基底関数である場合、対応する特徴空間は無限次元のヒルベルト空間です。」http://en.wikipedia.org/wiki/Support_vector_machine#Nonlinear_classification
私の理解では、SVM でガウス カーネルを適用すると、ランドマークをトレーニング例として選択し、「類似性」を測定しているため、結果の特徴空間はm次元 (トレーニング サンプルの数) になります。m特定の例とガウス カーネルを使用したすべての例の間。結果として、1 つの例について、トレーニング例と同じ数の類似値を持つことになります。これらはm、無限次元ではなく、次元ベクトルになる新しい特徴ベクトルになります。
誰かが私に何が欠けているのか説明してもらえますか?
ありがとう、ダニエル
他の答えは正しいですが、ここでは正しい話をしていません。重要なことに、あなたは正しいです。m個の異なるトレーニングポイントがある場合、ガウス動径基底カーネルにより、SVMがm次元空間で動作します。m を好きなだけ大きくすることができ、m が動作する空間は際限なく拡大し続けるため、動径基底カーネルは無限次元の空間にマッピングされると言います。
ただし、多項式カーネルなどの他のカーネルには、トレーニング サンプルの数でスケーリングする次元のこのプロパティがありません。たとえば、1000 個の 2D トレーニング サンプルがあり、<x,y>^2 の多項式カーネルを使用する場合、SVM は 1000 次元空間ではなく 3 次元空間で動作します。
簡単に言えば、無限次元空間に関するこのビジネスは、理論的な正当化の一部にすぎず、実際には重要ではないということです。いかなる意味でも、実際に無限次元の空間に触れることはありません。動径基底関数が機能することの証明の一部です。
基本的に、SVM は、ベクトル空間上の内積の特性に依存することによって、そのように機能することが証明されています。放射基底関数を交換するだけで、それが必ず機能することを期待することはできません。ただし、そうであることを証明するために、動径基底関数が実際には異なるベクトル空間上の内積のようなものであり、変換された空間で通常の SVM を実行しているかのように機能することを示します。そして、無限次元性が問題なく、動径基底関数がそのような空間の内積に対応することが起こります。したがって、この特定のカーネルを使用すると、SVM は引き続き機能すると言えます。
