4

RBF カーネルを使用するカーネル パーセプトロン分類器の実装に成功しました。ポイントを分離するために線形超平面を構築できるように、カーネルトリックが特徴をより高い次元にマッピングすることを理解しています。たとえば、特徴 (x1,x2) があり、それを 3 次元の特徴空間にマッピングすると、次のようになりますK(x1,x2) = (x1^2, sqrt(x1)*x2, x2^2)。

これをパーセプトロン決定関数 に差し込むと、次のw'x+b = 0ようになります。w1'x1^2 + w2'sqrt(x1)*x2 + w3'x2^2これにより、循環決定境界が得られます。

カーネルのトリック自体は非常に直感的ですが、線形代数の側面を理解することはできません。内積だけを使用して、明示的に指定せずにこれらすべての追加機能をどのようにマッピングできるかを誰かが理解するのを手伝ってくれますか?

ありがとう！

4

3 に答える 3

9

単純。

x と y の値について (x+y)^10 の数値結果を教えてください。

「チート」して x + y を合計し、その値を 10 乗するか、正確な結果を書き出して展開します。

x^10+10 x^9 y+45 x^8 y^2+120 x^7 y^3+210 x^6 y^4+252 x^5 y^5+210 x^4 y^6+120 x^3 y^7+45 x^2 y^8+10 x y^9+y^10

そして、各項を計算し、それらを足し合わせますか? 次数 10 の多項式間の内積は、明示的に作成しなくても評価できます。

有効なカーネルは、明示的な特徴値を形成することなく、2 点間の数値結果を「チート」して計算できる内積です。そのような可能なカーネルは多数ありますが、論文や実践で多く使用されているのはごくわずかです。

于 2014-02-01T02:04:26.447 に答える