least-squares - 最小二乗問題

Question

モデルのデータを収集した後:

y = b(0) + b(1)x(1) + ... + b(i)x(i)

y = Xb ここで、y は列ベクトル (n*1)、X は行列 (n*m)、b (m*1) です。

通常の最小二乗法 (OLS) を使用して b を見つけるソリューションを Python で実装しました。私の問題は、私の解決策が X が可逆かどうかに完全に依存することです。X がそうでない場合、OLS を使用して b を推定することはできません。

助言がありますか？

ありがとう。

Answer 1

はい、SVD (特異値分解) を使用してその連立方程式を解きます。