machine-learning - 予測時のミニバッチ サイズ

Question

lstm モデルを使用しています。モデルのトレーニングに関して、ミニバッチ サイズが何を意味するかを理解しています。基本的には、すべてのサンプルの後ではなく、バッチでグラデーションを更新することに関連しています。しかし、予測段階でのミニバッチ サイズは何を意味するのでしょうか。予測段階でのバッチ サイズの役割を理解できません。変更すると結果に影響しますか?

Answer 1

バッチの概念は、勾配を計算するだけではなく、より一般的です。ほとんどのニューラル ネットワーク フレームワークでは、画像のバッチをネットワークに入力できます。これは、より効率的で、GPU に簡単に並列化できるためです。

予測のバッチ サイズの増減は、通常、計算効率にのみ影響し、結果には影響しません。状態を持つ LSTM (通常の LSTM ではない) などのステートフル モデルの場合にのみ、バッチ サイズによって変化する結果が得られます。