問題タブ [logistic-regression]

matlab のロジスティック回帰のコストには、次のコードがあります。

そして、私はそれをベクトル化する必要がありますが、どのようにそれを行うのか、なぜそれを行うのかわかりませんか? 私はプログラマーなので、for が好きです。しかし、それをベクトル化するには、私は空白です。何か助けはありますか？ありがとう。

(x, y) サンプルで作成されたトレーニング セットがあるとします。

生成アルゴリズムを適用するには、ガウス弁別法としましょう。

p(x|y) ~ Normal(mu, sigma)すべての可能なシグマ

x ~ Normal(mu, sigma)または、 yが与えられたかどうかを知る必要がありますか？

p(x|y) が生成アルゴリズムを使用するのに十分 (しきい値まで) 多変量正規分布に従うかどうかを評価するにはどうすればよいですか?

ジャーナル論文が受け入れられるかどうかなど、バイナリ変数の結果を予測するためにロジスティック回帰を行っています。従属変数または予測子は、これらの論文で使用されているすべてのフレーズ (ユニグラム、バイグラム、トライグラム) です。これらのフレーズの 1 つは、「承認済み」クラスで偏った存在感を示しています。このフレーズを含めると、非常に高い精度 (90% 以上) の分類子が得られますが、このフレーズを削除すると、精度が約 70% に低下します。私のより一般的な（素朴な）機械学習の質問は、分類を行うときにそのような歪んだ機能を削除することをお勧めしますか? すべての機能の歪んだ存在をチェックし、それをモデルに保持するかどうかを決定する方法はありますか?

ロジスティック回帰の結果の分布図を散布図に追加するにはどうすればよいですか? 分類子の決定境界を示す、色付きの 0/1 ゾーンが必要です。

SASでロジスティック回帰を実行しようとしています。モデルの設定がほとんどないので、違いを比較してみます。

アーカイブしたいのは、推定された係数をファイルに出力することです。ODS はおそらく有望な方法だと思いますが、使い方がわかりません。

誰でも簡単な例を書いてもらえますか?

どうもありがとうございました。

現在、MATLAB でロジスティック損失関数を含む機械学習アルゴリズムを実装しようとしています。残念ながら、数値のオーバーフローが原因で問題が発生しています。

一般に、特定の入力に対してs、ロジスティック関数の値は次のようになります。

ロジスティック損失関数の傾きは次のとおりです。

私のアルゴリズムでは、 の値はs = X*beta. これは、データ ポイントとデータ ポイントごとの特徴 (つまり) を含むX行列で、は各特徴の係数のベクトルであり、となります。NPsize(X)=[N,P]betaPsize(beta)=[P 1]

の与えられた値に対するロジスティック関数の平均値と勾配を計算することに特に興味がありbetaます。

の値に対するロジスティック関数の平均値betaは次のとおりです。

の値に対するロジスティック関数の勾配の平均値bは次のとおりです。

ご了承くださいsize(dL) = [P 1].

私の問題は、これらの式が数値オーバーフローを生成し続けることです。問題は事実上、exp(s)=Infいつs>1000、exp(s)=0いつ、という事実から生じます。s<-1000.

s浮動小数点演算で任意の値を取ることができるソリューションを探しています。理想的には、ベクトル化された/効率的な方法で値と勾配を評価できるソリューションも本当にありがたいです。