次のようなニューラル ネットワークを使用して XOR ゲートをシミュレートしようとしています。
これで、各ニューロンには特定の数の重みとバイアスがあることがわかりました。シグモイド関数を使用して、各状態でニューロンが発火するかどうかを判断しています (これはステップ関数ではなくシグモイドを使用するため、実際には実際の値を吐き出すので、大まかな意味で発火を使用します)。
フィード フォワーディング部分のシミュレーションを正常に実行したので、今度はバックプロパゲーションアルゴリズムを使用して重みを更新し、モデルをトレーニングします。問題は、 の各値に対してx1個別x2の結果 (合計で 4 つの異なる組み合わせ) があり、異なる入力ペアの下で、個別の誤差距離 (目的の出力と実際の結果の差) を計算し、その後別の結果を得ることができるということです。重みの更新のセットは、最終的に達成されます。これは、バックプロパゲーションを使用して、個別の入力ペアごとに 4 つの異なる重み更新セットを取得することを意味します。
適切な重みの更新をどのように決定する必要がありますか?
収束するまで単一の入力ペアに対して逆伝播を繰り返すとしますが、別の入力ペアを選択した場合に別の重みのセットに収束するとしたらどうでしょうか?