マルコフ方程式の観点から情報エントロピーについて考えてきました。
H = -SUM(p(i)lg(p(i))、ここで、lg は 2 を底とする対数です。
これは、すべての選択 i の確率が等しいと仮定しています。しかし、与えられた選択肢のセットの確率が等しくない場合はどうなるでしょうか? たとえば、StackExchange に 20 のサイトがあり、ユーザーが StackOverflow 以外の StackExchange サイトにアクセスする確率が p(i) であるとします。しかし、ユーザーが StackExchange にアクセスする確率は p(i) の 5 倍です。
この場合マルコフ方程式は成り立たないのでしょうか? それとも、私が気付いていない高度なマルコフのバリエーションがありますか?
あなたの例から、マルコフ連鎖を考えていますか?
エントロピーとマルコフ方程式という 2 つの概念を混同していると思います。エントロピーは、与えられた方程式 H = -SUM(p(i)lg(p(i)) を使用して、状態の分布の「無秩序」を測定します。ここで、p(i) は各状態 i を観測する確率です。
マルコフ プロパティは、すべての状態が同じ確率を持つことを意味しません。大まかに言えば、状態を観察する確率がいくつかの以前の状態の観察のみに依存する場合、システムはマルコフ特性を示すと言われます-特定の制限の後、観察した余分な状態は次の状態の予測に情報を追加しません.
典型的なマルコフ モデルは、マルコフ連鎖として知られています。各状態 i から、確率行列として表される別の確率で任意の状態に移動できることを示しています。
0 1 2
0 0.2 0.5 0.3
1 0.8 0.1 0.1
2 0.3 0.3 0.4
この例では、状態 0 から 1 に移行する確率は 0.5 であり、状態 0 にあることにのみ依存します (前の状態について詳しく知っていても、その確率は変わりません)。
どの状態から始めてもすべての状態を訪れることができる限り、初期分布が何であれ、各状態にある確率は安定した長期分布に収束し、「長い系列」で各状態を観察します安定した確率で、各状態で必ずしも等しいわけではありません。
この例では、最終的に確率 p(0)、p(1)、p(2) が得られ、式を使用してそのチェーンのエントロピーを計算できます。