私は、その単語が欠落している文がどれほど制約されているかに基づいて、文中の単語の有益性をアルゴリズムで計算する方法を見つけようとしています。たとえば、「キツネ」という単語が文で提供する情報量を計算するにはどうすればよいですか。
「素早い茶色の___がフェンスを飛び越えた」
つまり、ターゲット単語がない場合、ユーザーが空白を埋めるのがどれだけ難しいかをどのように計算できますか?
私はこれまで、ターゲット単語と周囲のすべての単語との合計 word2vec 意味的類似性を調べるアプローチを試みてきましたが、常にうまくいくとは限りません。これに関して行われた既存の作業はありますか？