問題タブ [bias-neuron]

入力信号の将来の応答を予測するモデルを作成したいのですが、私のネットワークのアーキテクチャは[3、5、1]です。

• 3つの入力、
• 隠れ層の5つのニューロン、および
• 出力層に1つのニューロン。

私の質問は次のとおりです。

1. 非表示レイヤーと出力レイヤーごとに個別のバイアスを設定する必要がありますか？
2. 各レイヤーでBIASに重みを割り当てる必要がありますか（BIASがネットワークに余分な価値をもたらし、ネットワークに過度の負担をかけるため）？
3. なぜBIASは常に1に設定されているのですか？etaの値が異なる場合、BIASに異なる値を設定しないのはなぜですか？
4. 非線形関数に常に対数シグモイド関数を使用するのはなぜですか？tanhを使用できますか？

私は疑問に思っていました:多層フィードフォワードニューラルネットワークでは、入力層にバイアスニューロンを含める必要がありますか?それとも、これは隠れ層でのみ役立ちますか? もしそうなら、なぜですか？

昨日、XOR 演算子のバックプロパゲーション ニューラル ネットワークに関する問題について質問を投稿しました。もう少し調べてみると、バイアス ニューロンがないことに関係している可能性があることがわかりました。

私の質問は、バイアス ニューロンの一般的な役割と、XOR 演算子を認識するバックプロパゲーション ニューラル ネットワークにおけるバイアス ニューロンの役割は何かということです。バイアスニューロンなしで作成することは可能ですか?

ニューラル ネットワークの matlab を作成しました。これはスクリプトです：

ここで、ネットワークの重みとバイアスを保存して、方程式を書きたいと思います。重みとバイアスを保存しました：

だから、私はデータの前処理を行い、次の式を書きました

しかし、同じ入力 input=[1:8] では、異なる結果が得られます。なぜ？どうしたの？お願い助けて！重要です！

私はMatlab R2010Bを使用しています

フィード フォワード ニューラル ネットワークを構築しており、バイアスの実装方法を決定しようとしています。次の 2 つの点についてよくわかりません。

1) ダミー入力 + 重みとは対照的に、バイアスをノードの特性として実装することにマイナス面はありますか?

2) ダミー入力として実装した場合、最初のレイヤー (入力から非表示レイヤーまで) だけに入力されますか、それともすべてのレイヤーにダミー入力が必要ですか?

ありがとう！

PS私は現在、レイヤー間の重みを表すために2次元配列を使用しています。他の実装構造のアイデアはありますか? これは私の主な質問ではなく、考える材料を探しているだけです。

ニューラル ネットワークを使い始めて、AND/OR などのブール関数を実装しようとしています。バイナリ入力として 0 と 1 を使用する代わりに、-1 と +1 を使用します。(0, 1) を使用できない理由はありますか? 例: http://www.youtube.com/watch?v=Ih5Mr93E-2c

基本ネットワーク上でシグモイド活性化関数を備えた encog ライブラリを使用して、小さな乗算ニューラル ネットワークを作成しました。私の問題は、トレーニングされていないデータで大きなエラーが発生したことです。トレーニングされていないデータをより良い結果にするにはどうすればよいですか。エラーが発生しにくくなります。

最初に試したのは: train.getError() > 0.00001 から train.getError() > 0.0000001 エラーを減らすと、よりシャープな結果が得られます。しかし、これは役に立ちませんでした。

非表示レイヤーを増やしても効果はありませんでした: network.addLayer(new BasicLayer(new ActivationSigmoid(),false,128));

レイヤーごとのニューロン数を増やそうとしましたが、助けにもなりませんでした

よりシャープな結果を得るにはどうすればよいですか?

バイアスって何？いつ使用するのですか？

私は見ました： http : //www.heatonresearch.com/wiki/Activation_Functionしかし、私はシグモイドしか使用していません.いつ他のものを使用するか、アクティベーション関数を変更する必要がありますか?

これが私のコードです：

これが私の最後の試みで、もう少し効果的ですが、まだ良くありません：

シグモイド活性化関数とバイアスを正しく使用して人工ニューラル ネットワークを作成しているかどうかを把握しようとしています。1 つのバイアス ノードをすべての非表示ノードに入力し、静的出力 -1 とその重みを組み合わせてから、静的出力 -1 をその重みと組み合わせて出力するバイアス ノードを 1 つ作成します。次に、他のニューロンをトレーニングするのとまったく同じように、これらのバイアスをトレーニングできますよね?!