私が遭遇したいくつかのチュートリアルでは、ランダムに初期化された埋め込み行列を使用し、tf.nn.embedding_lookup
関数を使用して整数シーケンスの埋め込みを取得することが説明されていました。embedding_matrix
は を通じて取得されるため、オプティマイザーはそれを更新するためのtf.get_variable
適切な操作を追加するという印象を受けています。
私が理解していないのは、ソフトではなくハードに見えるルックアップ関数によってバックプロパゲーションがどのように発生するかです。この操作 wrt の勾配は何ですか。その入力IDの1つですか?