matlab - matlab での L1 正則化による効率的なロジスティック回帰

Question

matlab で効率的なロジスティック回帰の実装を探しています。matlab で lassoglm を使用しました。しかし、1000 個の機能と正則化パラメーター 0.005 から 1 を使用して 10000 個の例を試してみると、非常に遅くなります。2 分割交差検証を使用します。ラムダ 0.05 以降では、非常に遅く、多くの時間がかかります。

より良い方法はありますか？

Answer 1

LIBLINEARをチェックアウトすることをお勧めします。これは、線形の大規模学習用の無料の最先端のライブラリです。MATLAB インターフェイスを備えています。

LIBLINEAR には、次のようないくつかの線形メソッドがあります。

 for multi-class classification
     0 -- L2-regularized logistic regression (primal)
     1 -- L2-regularized L2-loss support vector classification (dual)
     2 -- L2-regularized L2-loss support vector classification (primal)
     3 -- L2-regularized L1-loss support vector classification (dual)
     4 -- support vector classification by Crammer and Singer
     5 -- L1-regularized L2-loss support vector classification
     6 -- L1-regularized logistic regression
     7 -- L2-regularized logistic regression (dual)
   for regression
    11 -- L2-regularized L2-loss support vector regression (primal)
    12 -- L2-regularized L2-loss support vector regression (dual)
    13 -- L2-regularized L1-loss support vector regression (dual)