問題タブ [perceptron]

デルタ規則を使用して単一のニューロン ネットワークをトレーニングするためのコードを作成しました。もう 1 つは、2 つのクラスを分類するパーセプトロン用です。2000 サンプルでトレーニングしたところ、問題なく動作しました。

今、トレーニング プロセスの最後に得た最後の重みを使用して (別の 2000 サンプルで) それらをテストし、次のようにテスト コードで使用します。

しかし、私はcounter = 0を取得しています。これは、目的の値に等しいy値がないことを意味します。それが私たちがネットワークをテストする方法ですか、それとも私が何かを逃したのですか? オンラインまたはテスト方法に関する本からアルゴリズムを見つけようとしていますが、見つかりません。目的の出力とまったく同じ出力が必要ですか、それともしきい値のようなものを使用する必要がありますか?

2 つのパーセプトロンが、同じ線形分離可能な分布からの無限サンプルで実行されると仮定します。それらは同じ決定関数に収束しますか? それらは同じ重みベクトル w に収束しますか? ML初心者なので詳しい方教えていただけると助かります。

ソース: http://datasciencelab.wordpress.com/2014/01/10/machine-learning-classics-the-perceptron/

「その中の 2 点が与えられた直線の一般式 ,は , ,を2点(x1,y2)に関して書くことができます。ベクトル を定義すると、任意の点は, ここで.プラスは線の片側に落ち、マイナスは反対側に落ちる。」(x2,y2)A + Bx + Cy = 0ABCV = (A, B, C)(x,y)V'x = 0x = (1,x,y)

仕組みがよくわかりません。また、特にこの行：

Bxによって決定されるのはなぜyb-yaですか?

その価値のために、私は線形代数を学んでいるので、数学の概念に精通しています (それが法線であることを理解しています) が、それがどのように行われるかはわかりません。

私は、scikit クラス Perceptron によって提供される非常に基本的な線形分類器を使用しています。

行がインスタンスで、列がバイナリ機能である X 配列があります。クラスに Y 配列があります。私のデータには 3 つのクラスがあります。2 つの質問があります。1) パーセプトロン アルゴリズムにはバイアス項が必要です。scikit パーセプトロンはバイアスをどのように処理していますか? 入力 X データに「バイアス列」(すべて 1) を追加する必要がありますか? または、scikit パーセプトロン関数は、機能を使用して X 配列 (入力) にバイアスを自動的に追加しますか? それとも、バイアスを個別に処理していますか？2) パーセプトロンのトレーニング エラーを見つけるにはどうすればよいですか?

偏りがなければ、原点を通る線は 2 つのデータ セットを線形に分離できるはずですよね??

しかし、この -->>質問で最も人気のある答えは言う

私はそれについて混乱しています。上の図の原点はx軸とy軸の中間ということですか？誰かが私を助けてこれを明確にしてもらえますか?

Objective-C にパーセプトロンを実装しようとしています。今私は、いくつかのランダムな量のエポックの後、エラーが最小または最大になる傾向があるとき、ネットワークが麻痺し、さらにいくつかのエポックの後、すべての重みが非常に大きな数値または非常に小さな数値になり、ネットワークの出力と伝播が次のようになるという問題に直面しています。 NaN。何が問題なのですか？

私のコードはここにあります。主なメソッドは Learn: Neuron.h です。

Web.h

Web.m

単純なバイナリ分類タスクに sklearn.ensamble の AdaBoostClassifier を使用したいと考えています。複数のプレフィット パーセプトロンを AdaBoostClassifier の弱分類器として使用するにはどうすればよいですか?

すなわち

または、AdaBoost を手動でビルドする必要がありますか?

このサイトでは、シグモイド ニューロン (シグモイド活性化機能を持つニューロン)、つまりパーセプトロンについて紹介する前に、少し数学的な詳細を説明しています。 http://neuralnetworksanddeeplearning.com/chap1.html

パーセプトロンから始まり、シグモイド ニューロンに進みます。すべて順調ですが、この章の後半にある「パーセプトロンをシミュレートするシグモイド ニューロン、パート II」という 2 番目の質問を証明することはできません。パーセプトロンのネットワークを、バイアスと重みが変更されていないシグモイド ニューロンのネットワークに置き換えることができるとは信じられません (ここで反例を簡単に作成できます。3 番目の層と最後の層に重み 17、-6、-3 を使用します)。 wx + b >= 0 で b = -3 および w = {17, -6} の第 4 層のニューロン。{1,0,0} (バイアス x_0 を含む) の場合、パーセプトロン ネットワークは 0 を返しますが、シグモイド ネットワークは 0 を返します。 1)。

誰かが私を助けて、何が欠けているのか、どこが間違っているのか教えてもらえますか? ありがとうございました。

scikit では、一部の分類器は「predict_proba」関数を実装していません。

一部の分類子が確率を予測しないことは理解していますが、分類子の予測には常に信頼係数があることを期待しています。

predict_proba パーセプトロン モデル (scikit 0.15) に相当するものを作成する方法を知りたいです。そのようなことはありますか？

（古いバージョンのscikitにはpredict_probaがあったと思いますが、使用する必要があるバージョンにはありません）