cuDNN を使用して LeNet-5 に実装し、MNIST データセットでネットをトレーニングしたいと考えています。
ネットの最後のレイヤーは「Softmax」で、フォワード処理で関数「cudnnSoftmaxForward()」を使用します。そして、後戻り処理で関数「cudnnSoftmaxBackward()」を使いたいのですが、関数「cudnnSoftmaxBackward()」のパラメータの1つ「dy」がわかりません。
NVIDIA が提供する関数「cudnnSoftmaxtBackward」は次のとおりです。
API では、「dy」が「input_diff」を意味することはわかっていますが、softmax レイヤーは最後のレイヤーです。関数「cudnnSoftmaxBackward()」の「input_diff」をフィードするにはどうすればよいですか? 「ネットワークターゲット出力」と「ネットワーク実際の出力」の差分をフィードすることはできますか?