1

同じと L2 正則化パラメータが与えられた場合A、とが 2 つの異なる解を与えるのはなぜですか?bbeta = 0ridge\

b = [ 0
    -2
    -3
    -3
    -3
    -3
    -3
    -3
    -3
    -3
    -3
    -3
    -3 ];

A = [
1   0   0   0
0.750000000000000   0.250000000000000   0   0
0.500000000000000   0.500000000000000   0   0
0.250000000000000   0.750000000000000   0   0
0   1   0   0
0   0.750000000000000   0.250000000000000   0
0   0.500000000000000   0.500000000000000   0
0   0.250000000000000   0.750000000000000   0
0   0   1   0
0   0   0.750000000000000   0.250000000000000
0   0   0.500000000000000   0.500000000000000
0   0   0.250000000000000   0.750000000000000
0   0   0   1
];

>> ridge(b, A, 0,0)
ans = 
    0.6942
   -0.1856
         0
   -0.0468

>> A \ b
ans = 
   -0.8604
   -3.4188
   -2.8970
   -3.0343
4

1 に答える 1

1

これは、ドキュメントでわかるように、 ：ridgeとは少し異なるアルゴリズムを使用しているためですmldivide。これは、「古典的な」疑似逆行列（（A' * A）^-1 * A ）が（A' * A）の小さなエラーに敏感になる可能性があるためです。^ -1は特異値に近く、式は（A' * A --kI）^-1 * Aに変更され、問題の条件付けが軽減されます。

于 2012-01-13T21:23:56.627 に答える