algorithm - ニューラルネットワークをトレーニングするためのバックプロパゲーション

Question

この記事をニューラルネットワークの構築に使用したいのですが、重みベクトルの更新アルゴリズムでいくつかの問題が発生します。具体的には、赤でマークされた数式を使用します。誰かが私が理解するのを手伝ってくれますか、hm（i）と記号「|」は何ですか 意味？

Answer 1

これは、ニューラル ネットワークのトレーニング エラーの勾配に対する逆伝播計算の ように見えます。Bishop (244 ページ) は、重要な式を次のようにリストしています。

δj = h'(aj) SUM(k, wkj δk)

δ非表示ノードまたは出力ノードの予測値とラベル付き値の間の誤差です。δ右側の項は既に計算されており、考慮されている層から出力方向にある次の層に対応しています。

この項は、通常はシグモイド関数またはであるh'非線形活性化関数の導関数です。画像にリストされているは、変数を変更したの導関数のように見えます。tanhhmtanh

縦棒は評価の構文です: f(t) = f(x) | t. あなたの画像の表情が何なのかよくわかりません。私は間違っているかもしれません。