問題タブ [bias-neuron]

私は、ニューラル ネットワークに関する Andrew NG のビデオをフォローしています。これらのビデオでは、彼はすべてのニューロンに偏りを関連付けていません。代わりに、活性化が計算された後、すべての層の先頭にバイアス ユニットを追加し、このバイアスを計算と共に使用して、次の層の活性化を計算します (順伝播)。

ただし、機械学習に関する他のブログやこのようなビデオでは、各ニューロンに関連付けられているバイアスがあります。この違いは何であり、その理由は何ですか?また、その意味は何ですか?

Python で Tensorflow を使用して画像を分類するための CNN + Ensemble モデルを構築しています。google images で犬と猫の画像をクロールしました。次に、それらを 126 * 126 ピクセル サイズとグレー スケールに変更し、ラベル 0 を犬に、1 を猫に追加します。CNN には 5 つの conv 層と 2 つの fc 層があります。HE、PReLU、max-pooling、dropout、Adam をモデルに使用。Parameter Tuning が終わったら、Early-Stopping を追加しました。モデルは 65~70 エポックを学習し、92.5~92.7% の精度で終了しました。学習が終わった後、CNN モデルを VGG ネットワークに変更したいので、CNN パラメータを確認したところ、驚いたことに、conv 層に Bias を追加していないことがわかりました。2 fc レイヤーにはバイアスがありましたが、5 conv レイヤーにはバイアスがありませんでした。そのため、5 つの conv レイヤーに Bias を追加しましたが、モデルが学習できませんでした。コストが無限に増加しました。

バイアスは必ずしも深い畳み込み層にあるとは限りませんか?

C++ を使用して、カフェ フレームワークで重みとバイアスを読み取ろうとしています。これが私のコードです

しかし、一部のモデルでバイアスが存在しないか定義されていない場合、セグメンテーション違反エラーによってバイアスが定義されます。

では、バイアスの存在を示すブール値を返す関数と、C++ で関数を呼び出す方法はどれですか?