matlab - 回帰のためのガウス過程のハイパーパラメータ

Question

ガウス過程回帰モデルは主にその共分散行列によって指定され、自由なハイパーパラメーターはモデルの「重み」として機能することを知っています。しかし、共分散行列の 2 つのハイパーパラメーター (長さスケールと振幅) が何を表しているかを説明できる人はいますか (それらは「実際の」パラメーターではないため)。これら 2 つのパラメーターの「実際の」意味について少し混乱しています。

よろしくお願いいたします。:)

Answer 1

まず、ガウス プロセスで使用できるカーネルの数は無限にあることを指摘したいと思います。ただし、最も一般的なものの 1 つは RBF (2 乗指数、べき乗二次などとも呼ばれます) です。このカーネルの形式は次のとおりです。

上記の式はもちろん単純な 1D の場合です。ここで、l は長さスケールで、sigma は分散パラメーターです (ソースによって名前が異なることに注意してください)。長さスケールは、x と x' の間の距離を単純に拡大するだけなので、2 つの点がどのように類似しているように見えるかを効果的に制御します。分散パラメーターは、関数の滑らかさを制御します。これらは関連していますが、同じではありません。

Kernel Cookbookには、ちょっとした説明があり、RBF カーネルを一般的に使用されている他のカーネルと比較しています。