1

したがって、この質問がここに属しているのか、それとも数学のオーバーフローなのかはわかりません。いずれにせよ、私の質問は情報理論についてです。

私が16ビットワードを持っているとしましょう。その数には、1 と 0 の 65,536 の一意の構成があります。これらの構成のそれぞれが何を表すかは重要ではありません。表記方法 (2 の補数と符号付きマグニチュードなど) によっては、同じ構成でも異なる意味になる可能性があるためです。

私が疑問に思っているのは、それよりも多くの情報を 16 ビット ワードに格納するための手法があるということですか?

私の最初のアイデアは奇数/偶数パリティか何かのようなものでしたが、それは構成によってすでに決定されていることに気付きました...つまり、そこにエンコードされた余分な情報はありません。そんなものは存在しないのだろうかと思い始めています。

編集たとえば、魔法のコンピューター(ここでは量子か何かを考えている)が0、1、aを理解できるとしましょう。次に、明らかに 3^16 の構成があり、[0 - 65,536] よりも多くの数値を格納できるようになりました。ビットストリームに余分な情報をエンコードするために混乱させることができる16ビットワードの他のプロパティはありますか?

EDIT2これを言葉にするのに本当に苦労しています。今、コンピューターで 16 ビット ワードを見ると、個々の 1 と 0 の相対的な順序に関する情報を伝えるプロパティです。2 ^ 16を超える一意の「構成」を許可する16ビットワードを見る別のプロパティまたは方法はありますか? (これは構成ではなく、2^16 xxxx であることに注意してください。ここで、xxxx はそのプロパティのインスタンスを表す名詞です。)。私が本当に考えることができる唯一のことは、各ビットが実際に1または0であったかどうかではなく、1から0への遷移の数または何かを見た場合のようなものですか? 最終的には 1 と 0 の構成のみに依存するため、遷移は 2^16 を超える組み合わせを生成しません。1 と 0 の構成から派生するプロパティと、2 ^ 16 を超える結果となるその他のプロパティを探していますそれが存在した場合、これが何と呼ばれるかさえ誰かが知っていますか?


EDIT3わかりました。私の質問はこれに要約されます: 単語の 1 と 0 の構成がそれを完全に定義することをどのように証明しますか? IE 2 つの 16 ビット ワードが等しいことを示すために、ビットマップ以外の情報が必要ないことをどのように証明しますか?


最終編集

例があります... 1 と 0 の存在を見る代わりに、ビット間の遷移を見ると、2^16 個のアルファベット文字を格納できます。左のビットが同じ場合は 1 として扱い、遷移する場合は 0 として扱います。16 ビット ワードを、各リンクが 0/1 を表す循環リンク リスト型構造として使用すると、基本的には 16 ビットになります。ビット間の遷移からのワード。これは私が探していたものの正確な例ですが、結果は 2^16 になり、それ以上のものはありません。私はあなたがもっとうまくやれないと確信しており、正しい答えをマークしています =(

4

2 に答える 2

2

16 0/1 の特定の構成における情報量は、この構成の確率によって決まります (これは自己情報と呼ばれます)。構成が 1/(2^16) よりも可能性が低い場合、これは 16 ビットよりも大きくなる可能性がありますが、これは、他の構成が 1/(2^16) よりも可能性が高いため、16 ビットよりも少ない情報を含むことを意味します。

考えられるすべての構成を考慮するには、個々の構成の自己情報の期待値 (エントロピーと呼ばれる) を使用する必要があります。この値は、すべての構成の確率が等しい (つまり、1/(2^16)) 場合に最大になり、正確に 16 ビットになります。

したがって、答えはノーです。16 個の 0/1 に 16 ビットを超える情報を格納することはできません。

見る

EDITビットは 0 または 1 を表すのではなく、情報の単位であることを認識することが重要です。つまり、-log_2 P(w) であり、P(w) は特定の構成の確率です。

于 2011-06-27T18:18:21.077 に答える
0

半導体デバイスの 1 つの桁に 2 つ以上の状態を格納することはできません。あなたは自分で答えました。より多くの情報を 16 桁に収める唯一の方法は、各桁に多くの可能な値を持たせることです。

于 2011-06-27T18:10:03.663 に答える