machine-learning - 機械学習 - パーセプトロン

Question

2 つのパーセプトロンが、同じ線形分離可能な分布からの無限サンプルで実行されると仮定します。それらは同じ決定関数に収束しますか? それらは同じ重みベクトル w に収束しますか? ML初心者なので詳しい方教えていただけると助かります。

Answer 1

学習率が十分に小さい場合、それらは同じ決定境界に収束します。ただし、2 つのパーセプトロンの初期の重み (別々にランダム化されていると仮定) によっては、2 つのパーセプトロンの最終的な重みが異なる可能性があります。入力に関連付けられた重みは分離平面の係数であり、これらの係数は一意ではないことに注意してください (たとえば、平面に関連付けられた係数を 2 倍にしても、平面の位置は変更されません)。したがって、2 つのパーセプトロンの制限重みが等しくない可能性は十分にあり得ます (可能性は高いです)。