7

これは、この投稿に続く質問です。特定のニューロンについて、そのエラーの偏導関数とその重みの偏導関数を取得する方法については不明です。

このWebページから作業すると、伝播がどのように機能するかは明らかです(ただし、私はResilient Propagationを扱っています). フィードフォワード ニューラル ネットワークの場合、1) ニューラル ネットワークを前方に移動しながらニューロンをトリガーし、2) 出力層のニューロンから総誤差を計算する必要があります。次に、3) 後方に移動し、ニューロンの各重みによってそのエラーを伝播し、4) 再び前方に移動して、各ニューロンの重みを更新します。

正確には、これらは私が理解していないことです。

A)各ニューロンについて、重みの偏微分に対する誤差の偏微分 (定義) をどのように計算しますか? 私の混乱は、微積分では、偏微分が n 変数関数に関して計算されるということです。この投稿でldogBayer の回答を理解しています。チェーンルールも理解できました。しかし、それを ai) 線形コンバイナーと ii) シグモイド活性化関数の結果に適用する方法を正確に考えると、それはゲル化しません。

B) Resilient Propogation アプローチを使用して、特定のニューロンのバイアスをどのように変更しますか? それとも、Resilient Propagation トレーニングを使用する NN にバイアスやしきい値はありませんか?

C) 2 つ以上の出力ニューロンがある場合、どのように総誤差を伝播しますか? total-error * ニューロンの重みは、出力ニューロンの値ごとに発生しますか?

ありがとう

4

3 に答える 3