neural-network - Caffe の複数の精度レイヤー

Question

nVidia DIGITS と Caffe を使用して、大量の画像を分類しようとしています。標準ネットワークと私が構築したネットワークを使用すると、すべてがうまく機能します。

ただし、GoogleNet の例を実行すると、いくつかの精度レイヤーの結果が表示されます。CNN に複数の精度レイヤーを含めるにはどうすればよいですか? 複数の損失レイヤーがあることは理解できますが、複数の精度値は何を意味するのでしょうか? 学習中にいくつかの精度グラフを取得します。この写真に似ています：

lossX-top1とはlossX-top5精度レイヤーを表します。これらが上位 1 位と上位 5 位の精度値を評価することはprototxtから理解していますが、lossX 精度レイヤーとは何ですか?

これらのグラフの一部は約 98% に収束しますが、トレーニング済みのネットワークを で手動でテストすると、'validation.txt'大幅に低い値 (下位 3 つの精度グラフに対応するもの) が得られます。

誰かがこれに光を当てることができますか? 値が異なる複数の精度レイヤーが存在する可能性はありますか?

Answer 1

If you look closely at the 'train_val.prototxt' you will notice that there are indeed several accuracy layers branching off the main "path" at different levels. loss1 is evaluated after inception 4a layer, loss2 is evaluated after inception 4d and loss3 is the loss at the top of the net. Introducing loss (and accuracy layers) to intermediate representations of the deep net allows for faster gradient propagation during training. These intermediate accuracies measure how well the intermediate representations have converged.