相互情報量は次の式で定義されます
I(X;Y) = H(X) - H(X|Y) = H(Y) - H(Y|X)
ここで、X、Yはいくつかの列ベクトルです。私の場合、Xは連続信号であり、Yは離散化された信号です。size(X)= 100で、Yの離散化の数は10で、Yの語長は5(たとえば)です。これで、最初に同時確率を見つけ、次に条件付き確率を見つけ、次にI(X、 Y)。この観点から、私は次の実装上の問題を抱えています
- 同時確率を計算する際、サイズ(x)まで、または離散化された信号Yの語長まで計算されますか?
- Iの単一の数値とIのプロットを取得する方法
- チャネル容量を見つける方法