0

私はコンピューター サイエンスを勉強していませんが、情報コンテンツの概念を理解することに興味があります。

次の 2 つの例文を見ました。

a) On July 5th, it was over 100°F
b) On July 5th, it was 98°F

文 b) はより高い情報量を持っていると言えます。なぜなら、文 a) の可能性は、より少ない/多い可能性だけであり、文 b) の可能性は無限にあるからです。

b) の方が情報量が多いことに同意しますが、説明がわかりません。

b) のほうが情報量が多いと言えます。これは、実際の温度が正確にわかるからです。

しかし、私の直感的な理解は間違っていると思います。解釈の余地がないメッセージは、情報量が多いと言えます。

a) Tomorrow, someone will visit me.
b) Tomorrow, my aunt will visit me.

私は自発的に、b) の方がより有益であると言うでしょう。ここは正しいですか?

私の非科学的な理解では、情報量の多いコンテンツは良いでしょう。しかし、情報理論では、メッセージがエンコードに多くのビットを必要とすることを意味し、情報は良いものではなく、送信する必要があるものと見なされるため、情報量が多いことは悪いことだと思います。それはそれを置く良い方法ですか?

4

1 に答える 1

0

あなたの直感は正しいです。詳細を突き止めるために平均して尋ねる必要がある追加のバイナリ質問の数は、本質的に情報の内容です。

ただし、目的がない限り、情報理論に固有善悪はありません。

信号を圧縮することが客観的である場合、情報理論では、達成可能な限界は情報の内容によって与えられると言います。その意味で、情報量の少ない信号はより圧縮可能です (これは、探しているものである場合に適しています)。

通信チャネルの場合、チャネル容量の使用を最大化する必要があります。チャネルを最大容量まで使用していない場合、情報コンテンツは可能な限り高くなりません。

エラー訂正のために、同じ情報内容でより大きなビット表現を持つ冗長性が必要です。シンボルごとの最小の情報コンテンツは、エラー訂正がないことを意味するため、それは悪いことです。

于 2016-02-17T11:28:09.007 に答える