問題タブ [vowpalwabbit]

Vowpal Wabbit で通常の最小二乗回帰を実行できた人はいますか? 正確な解と同じ答えが返されることを確認しようとしてい||y - X a||_2 + ||Ra||_2ます a = (X^T X + R^T R)^(-1) X^T y。このタイプの回帰を行うには、numpy python で約 5 行かかります。

VWのドキュメントは、これができることを示唆しています（おそらく「二乗」損失関数）が、これまでのところ、Pythonの結果に近づくことさえできませんでした。二乗はデフォルトの損失関数であるため、単純に次のように呼び出しています。

input.txt には次のような行があります

VW 呼び出しで他のパラメーターが必要ですか? （かなり最小限の）ドキュメントを理解できません。

Win XP SP3 で vowpal_wabbit-7.3 をビルドするために cygwin を使用しています。

./設定

作る

vw.exe でフォルダー vowpalwabbit を作成しましたが、実行しようとすると cygwin1.dll が見つからないというエラーが表示されます。

すべての名前空間のサブセットから機能の組み合わせ (二次および三次) を選択する必要があります。単一の機能は避けたい。例：

-q m名前空間「m」との組み合わせであるすべての機能を選択したい（VWのコマンドラインに従って、オプションを使用します：）。重要なのは、、、、などt_20の単一の機能をすべて避けたいことです。m_18o_15

params を使用--ignoreすると、組み合わせも削除されますが、これは望ましくありません。

ソースコードでは、組み合わせが行われる前に名前空間が削除されるのを無視しているようです。必要に応じて、VW のソース コードを変更します。

vowpal wabbit に当てはめようとしている異常な回帰問題があります。n=1 から n=Nのデータセット{(x_n, h_n[m])} でトレーニングする一連のリグレッサー{r_m(x)}を学習しようとしています。ここで、 mはM次元のインデックスです。これは基本的に、M個の個別の回帰問題があることを意味します。

各問題を独自の名前空間に追いやることで、すべてのM問題を 1 つにマージすることが可能かどうか疑問に思っています。たとえば、.vw トレーニング ファイル内には、次のものがあります。

その後、私はちょうど実行することができます

各名前空間のリグレッサーの重みを取得します。

この戦略は、マルチラベル分類問題を複数のバイナリ分類問題に変換/削減することに似ていることを知っています:このリンク. 同じことが、次元間のクロストークなしで回帰問題に適用できるかどうか疑問に思っています。つまり、各名前空間を個別に処理する vowpal wabbit です。

重要な点として、M = 400、N = 4e6 であり、データ次元の数はドキュメント セット全体の一意の単語トークンの数と同じです...

Vowpal Wabbit はエポック/パスごとにデータを自動的にシャッフルしますか? 作成されたキャッシュ ファイルに、VW のデフォルトのオンライン SGD メソッドのようなオンライン アルゴリズムに必要なシャッフル メタデータが含まれることを願っています。例えば

そうでない場合は、パスごとにデータを手動でシャッフルするバックアップ スクリプトがあります。

VW が自動的にシャッフルしない場合、上記のコード ブロックを実行するより効率的な方法はありますか? 残念ながら、VW の wiki はこれに関して不明確です。ありがとう。

私は Vowpal Wabbit を使用しており、読み取り可能なモデルとしてトレーニングされた分類器を生成していました。

私のデータセットには 22 個の特徴があり、読み取り可能なモデルは出力として次のように与えました。

ファイルの最後の部分 ( options: の後) を解釈する方法を誰かに説明してもらえますか? 私はロジスティック回帰を使用していましたが、トレーニングを反復することで分類子がどのように更新されるかを確認して、いつ収束に達したかを理解できるようにする必要があります...

前もって感謝します ：）