12

私は現在、MNIST の例のような例を研究することで、畳み込みニューラル ネットワークについて学んでいます。ニューラル ネットワークのトレーニング中に、次のような出力がよく見られます。

 Epoch  |  Train loss  |  Valid loss  |  Train / Val
--------|--------------|--------------|---------------
    50  |    0.004756  |    0.007043  |     0.675330
   100  |    0.004440  |    0.005321  |     0.834432
   250  |    0.003974  |    0.003928  |     1.011598
   500  |    0.002574  |    0.002347  |     1.096366
  1000  |    0.001861  |    0.001613  |     1.153796
  1500  |    0.001558  |    0.001372  |     1.135849
  2000  |    0.001409  |    0.001230  |     1.144821
  2500  |    0.001295  |    0.001146  |     1.130188
  3000  |    0.001195  |    0.001087  |     1.099271

エポック以外に、各列が正確に何を表し、値が何を意味するかについて誰かが説明してくれますか? 基本的な cnn に関するチュートリアルはたくさんありますが、これについて詳しく説明しているチュートリアルには出会っていません。

4

1 に答える 1

26

ネットワークのトレーニングに使用されたものに加えて、保持された一連のデータが使用されているようです。トレーニング損失は、データのトレーニング セットのエラーです。検証損失は、トレーニング済みネットワークを介してデータの検証セットを実行した後のエラーです。トレーニング/有効は、2 つの比率です。

予想外に、エポックが増加すると、検証とトレーニング エラーの両方が低下します。ただし、ある時点で、トレーニング エラーが低下し続ける (ネットワークがデータをより適切に学習する) 一方で、検証エラーが上昇し始めます。これはoverfitting!

于 2016-05-01T04:56:21.410 に答える