neural-network - Keras の反復神経層

Question

Keras を介してニューラル ネットワークを学習しており、再帰型ニューラル ネットワークでシーケンシャル データセットを調べたいと考えています。私はドキュメントを読んで、 LSTM の例を理解しようとしていました。

私の質問は次のとおりです。

1. timesteps両方のレイヤーに必要なものは何ですか?
2. Denseこれらの再帰レイヤーの入力として機能するシーケンシャル データセットを準備するにはどうすればよいですか?
3. レイヤーは何をしEmbeddingますか？

Answer 1

1. タイムステップは、Keras に関してかなり厄介なことです。LSTM への入力として提供するデータは numpy 配列でなければならないという事実により、(少なくとも Keras バージョン <= 0.3.3 の場合) 指定された形状のデータ (「時間」次元であっても) が必要です。指定された長さのシーケンスのみを入力として配置できます。入力の長さが異なる場合は、人工データを使用してシーケンスを「埋める」か、「ステートフル」モードを使用する必要があります (Keras をよく読んでください)。このアプローチの意味を理解するためのドキュメント)。どちらの解決策も喜ばしくないかもしれません - しかし、Keras がとてもシンプルであることはあなたが支払うコストです :) バージョン 1.0.0 で彼らがそれで何かをすることを願っています.

2. LSTM 層の後に非再帰層を適用する方法は 2 つあります。

   • 引数 return_sequences を False に設定すると、すべてのシーケンスの最後のアクティベーションのみが「静的」レイヤーに渡されます。
   • 「時間分散」レイヤーの1つを使用して、データでやりたいことをより柔軟に行うことができます。

3. https://stats.stackexchange.com/questions/182775/what-is-an-embedding-layer-in-a-neural-network :)