M が、それぞれ属性 X と Y を持つオブジェクト m の集合であると仮定します。ここで、X と Y が指定された m に対して 1 つの値しか持てない場合 (つまり、X,Y が P(X=x_i|M=m_i) の確率変数である場合、P( Y=y_i|M=m_i))、X と Y の相互情報量を計算することは可能です。しかし、X が一度に複数の結果を持つことができるとしたらどうでしょうか? つまり、m_3 の場合 X={x1,x2} - 一般に、X の結果はすべての可能な結果のサブセットです。そのような場合、相互情報量やその他の依存度を測定できますか?
X をバイナリ確率変数 X_1、X_2 などに分割することは可能ですか? X_1=1 の場合、X に x1 が含まれている場合は X_1=0 であり、それ以外の場合はすべての組み合わせ i,j について I(X_i,Y_j) を計算し、情報を順番に合計します。 I(X,Y) を取得するには?
ありがとう。
例：
m_1: X={a,b}, Y={x,y}; m_2: X={c}, Y={z,x}
セットの意味と相互情報の使用目的に応じて、セットをアトミック値として扱うことができます。次に、イベント スペースは V_X のパワーセットであり、通常の方法でその大きなイベント スペースに関する相互情報を計算できます (ビット文字列を考えてください)。
相互作用情報や総相関など、相互情報の多変量一般化がありますが、それらはあなたが探しているものではないと思います。他の非情報理論的多変量相関測定を調べたほうがよいかもしれません。
私が間違っていなければ、あなたが設定した前提：
If M is a set of objects { m1, m2, ... },
and each mi has two attributes X, Y,
and X, Y can be a set of { x1, x2, ... } , { y1, y2, ... } respectively
次に、定義したい
*(X, Y) based on each mi's X, Y
これにより、計算に関して問題の複雑さが大幅に増加しますが、2 つの値 X と Y を相関させる代わりに、2 つのサブセット X と Y を相関させることを除いて、同じタイプの相関を行うことができます。