c# - 線形活性化関数を使用して XOR を学習するために ANN (2-2-1 レイヤー) を実装できますか?

Question

はいの場合、どのように？また、線形活性化関数を使用して実装できる単純なアプリケーションの例をいくつか示します。

Answer 1

答えは非常に短く、いいえです。

線形活性化関数を使用する場合、ニューラル ネットワークは単純なパーセプトロンよりも強力ではありません (隠れ層の欠如)。

つまり、線形活性化関数で隠れ層を使用しても意味がありません。

Answer 2

XOR は直線的に分離できません。関数の出力を 2D 平面に出力し、それを線形に分離する方法を見つけようとしても、見つかりません。これは、シグモイド関数のようにポイントを非線形に分離できる別のアクティベーション方法が見つかるまで、最初は NN の内訳でした。

a   b   a XOR b
1   1      0
0   1      1
1   0      1
0   0      0