ここの経験豊富なユーザーの何人かが私にいくつかの提案をしてくれることを願っています. 2 つの入力、2 つの隠しノード、1 つの出力を持つニューラル ネットワークを実装しています。
非表示層と出力の両方でシグモイド活性化関数を使用し、逆伝播を使用しています。私は理論を正しく理解しているとかなり確信しています。勾配を計算し、重みとバイアスを更新するプログラムを用意し、運動量と強度の変数を使用して調整します。
複数のレイヤーを使用するポイントは、非線形分離可能な問題を解決することですが、これまでのところ、線形分離可能な AND および OR ブール関数しか解決できませんでした。あらゆる種類の運動量と強さの設定で遊んでみましたが、役に立ちませんでした。
私の通常の出力は、4 つの変数すべてで常にまったく同じです。しばらくは 0.55 近くでしたが、設定をいじってみると、すべて 0.9 を出力しています。バイアスを取り除くと、最初の値はゼロになりますが、4 番目の値はゼロになりません。
助言がありますか？