optimization - 疎最小二乗回帰のツール

Question

数十万の例を使用して、疎な高次元 (数千の機能) 最小二乗回帰を実行したいと考えています。派手ではない最適化を喜んで使用します - 確率的勾配降下は問題ありません。

これを行うために既に実装されているソフトウェアを誰かが知っているので、自分で書く必要はありませんか?

敬具。

score 5 · Accepted Answer

確かなことはわかりませんが、これはLAPACK (線形代数パッケージ) がサポートを提供できるようなものだと思います。彼らは通常、スパース行列やコア外のサイズを含む大規模な行列計算に関心があります。基本バージョンは FORTRAN ですが、C およびその他の言語用のライブラリのポートがあります。

LAPACK は基本的な呼び出しの多くに BLAS (基本的な線形代数サブプログラム) を使用するため、おそらくSparse BLASも確認する必要があります。

score 3 · Accepted Answer

このような問題にはR パッケージを使用できると確信しています。それは信じられないほど強力で柔軟です。そのページからリンクされた多くのオンラインリソース。

score 1 · Accepted Answer

LAPACKをご覧になることをお勧めします。これはかなり成熟した線形代数ライブラリですが、Fortran で記述されているため、インターフェイスとの接続が少し難しい場合があります。ただし、Fortran は C と ABI 互換であるため、関数のプロトタイプが正しく作成されていれば問題ありません。

[編集] さらに調べてみると、LAPACK はスパース行列をサポートしていないようです。一部の目的では帯行列を処理できますが、線形最小二乗問題については、一般的な行列のみをサポートします。

3 に答える 3