問題タブ [word-embedding]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
876 参照

neural-network - 単語埋め込み(word2vec)に関する質問

word2vec(単語埋め込み) アーキテクチャを理解しようとしていますが、それについていくつか質問があります。

  • まず、word2vec モデルが対数線形モデルと見なされるのはなぜですか? 出力層でソフトマックスを使っているからでしょうか?
  • 次に、word2vec が非表示レイヤーを削除するのはなぜですか? それは単に計算の複雑さのためですか?
  • 第三に、なぜ word2vec はアクティベーション関数を使用しないのですか? (NNLM(Neural Network Language Model)と比較して)。