python - tf.nn.softmax_cross_entropy_with_logits はバッチ サイズを考慮していますか?

Question

tf.nn.softmax_cross_entropy_with_logitsバッチサイズを考慮していますか?

私の LSTM ネットワークでは、さまざまなサイズのバッチをフィードしています。最適化する前に、バッチ サイズに関してエラーを正規化する必要があるかどうかを知りたいです。

Answer 1

ドキュメントでは、softmax_cross_entropy_with_logits はバッチ サイズと等しい長さのベクトルを返すと書かれています。tf.reduce_meanスカラー コストを取得するには、そのベクトルに対して実行できます。そうすれば、損失はバッチサイズの影響を受けません。