3

私が遭遇したいくつかのチュートリアルでは、ランダムに初期化された埋め込み行列を使用し、tf.nn.embedding_lookup関数を使用して整数シーケンスの埋め込みを取得することが説明されていました。embedding_matrixは を通じて取得されるため、オプティマイザーはそれを更新するためのtf.get_variable適切な操作を追加するという印象を受けています。

私が理解していないのは、ソフトではなくハードに見えるルックアップ関数によってバックプロパゲーションがどのように発生するかです。この操作 wrt の勾配は何ですか。その入力IDの1つですか?

4

1 に答える 1