問題タブ [tf.keras]

トレーニングが終了したと仮定すると、Keras は推論時に (LSTM および RNN レイヤーで) 0 番目のセル状態と隠れ状態にどのような値を使用しますか? 少なくとも 3 つのシナリオを考えることができましたが、ドキュメントで決定的な答えを見つけることができませんでした。

(a) 初期状態が学習され、すべての予測に使用されます

(b) または初期状態が常にゼロに設定されている

(c) 初期状態は常にランダムです (そうならないことを祈りましょう...?)

tf.layers.batch_normalizationのドキュメントには、将来のバージョンで削除され、tf.keras.layers.BatchNormalizationに置き換える必要があると書かれていますが、tensorflow の低レベル API を使用して機能を置き換える方法が見つかりません。

出力：

ドキュメントで提案されているように、代わりに keras を使用する場合

空の出力が得られます。

UPDATE_OPS が空であるため、モデルは keras を使用したトレーニング中にバッチ正規化の moving_avg_mean と moving_avg_variance を更新できません (その結果、より大きなテスト エラーが発生します)。これを解決する方法についての提案は大歓迎です!

上記の例は、tf.layers.batch_normalizationの使用方法に関する古い投稿から取得したものです。