R^p にデータ ベクトルzがあり、R^(p*N) にトレーニング データ行列Xがあるとします。ここで、N (N>p) はトレーニング データ行列のサンプル数です。
Xの列にまたがる線形部分空間へのzの射影を見つけたい場合は、次の制約のない問題を解くことができます。
分 || z - X b ||^2.
bの最小二乗推定は ( X X ')^-1 X zです。したがって、部分空間へのzの射影はX ( X X ')^-1 X z = P zと記述できます。P = X ( X X ')^-1 Xは、 P ' = PおよびP ^2 = Pを満たす射影行列です。
bに非負の制約を追加すると、上記の最適化問題は次のようになります。
分 || z - X b ||^2, st bのすべての要素は負ではありません。
ラグランジアンは || です。z - X b ||^2 - v ^T b、vは N 次元ベクトルです。ラグランジアンwrt bの 1 次導関数をゼロに設定すると、 bの推定が得られます: ( X X ')^-1 ( X ' z + 1/2 v )。したがって、部分空間へのzの射影はX ( X X ')^-1 ( X ' z + 1/2 v ) です。
私の質問は、次のように説明できます。
P zを使用して射影X ( X X ')^-1 ( X ' z + 1/2 v ) を近似できる方法はありますか?ここで、PはP ' = PおよびP ^2 = Pを満たす射影行列です。そのようなPをどのように推定できますか?
前もって感謝します！