3

重複の可能性:
C# の浮動小数点演算が不正確なのはなぜですか?

浮動小数点演算に偏りがあるのはなぜですか? 具体的な理由は？出力: 160 139

static void Main()
        {
            float x = (float) 1.6;
            int y = (int)(x * 100);
            float a = (float) 1.4;
            int b = (int)(a * 100);
            Console.WriteLine(y);
            Console.WriteLine(b);
            Console.ReadKey();
        }
4

3 に答える 3

3

分母が 2 の累乗でない有理数は、2 進数で表すと無限の桁数になります。ここに 8/5 と 7/5 があります。したがって、浮動小数点数としての正確な 2 進数表現はありません (無限のメモリがない限り)。

1.6 の正確
なバイナリ表現は 110011001100110011001100110011001100 です... 1.4 の正確なバイナリ表現は 101100110011001100110011001100110011...
両方の値の桁数は無限です (1100 は無限に繰り返されます)。

float 値の精度は 24 ビットです。したがって、任意の値のバイナリ表現は 24 ビットに丸められます。指定された値を 24 ビットに丸めると、次のようになり
ます
。

両方の値の指数は 0 です (最初のビットは 2^0 = 1、2 番目のビットは 2^-1 = 0.5 など)。
24 ビット値の最初のビットは 2^23 であるため、24 ビット値 (13421773 と 11744051) を 2 の 23 で割ることによって正確な 10 進値を計算できます。
値は、1.60000002384185791015625 および 1.39999997615814208984375 です。

浮動小数点型を使用するときは、その精度が有限であることを常に考慮する必要があります。10 進数として正確に記述できる値は、2 進数として表すと切り上げまたは切り捨てられる場合があります。int へのキャストは、指定された値を切り捨てるため、それを尊重しません。常に Math.Round のようなものを使用する必要があります。

有理数の正確な表現が本当に必要な場合は、まったく異なるアプローチが必要です。有理数は分数なので、整数を使用して表すことができます。これを実現する方法の例を次に示します。
ただし、Rational x = (Rational)1.6 と書くことはできません。Rational x = new Rational(8, 5) (または new Rational(16, 10) など) のように記述する必要があります。

于 2012-09-16T12:20:38.660 に答える
2

これは、浮動小数点演算が正確ではないためです。1.4に設定aすると、内部的には正確に1.4にならない場合があり、マシンの精度で作成できるのと同じくらい近くなります。部分的に1.4未満の場合、100を掛けて整数にキャストすると、整数部分のみが使用されます。この場合は139になります。技術的にははるかに正確な答えが得られますが、基本的にはこれが発生します。

1.6の場合の出力の場合、浮動小数点表現は実際には1.6よりもわずかに大きい可能性があるため、100を掛けると、合計は160よりわずかに大きくなり、整数キャストによって期待どおりの結果が得られます。実際のところ、すべての実数を正確に格納するのに十分な精度がコンピューターで利用できるわけではありません。

浮動小数点から整数型への変換の詳細については、このリンクを参照してくださいhttp://msdn.microsoft.com/en-us/library/aa691289%28v=vs.71%29.aspx- 独自のセクションがあります。

于 2012-09-15T08:36:32.010 に答える
1

浮動小数点型float(32 ビット) およびdouble(64 ビット) の精度には制限があり、それ以上の値は内部でバイナリ値として表されます。10 進法で 1/7 を正確に表すことができないのと同じように (~ 0.1428571428571428...)、2 進法で 1/10 を正確に表すことはできません。

decimalただし、タイプを使用することはできます。精度には制限がありますが (ただし、精度は高くなります)、数値は内部的に 10 進数で表されます。したがって、1/10 のような値は、内部では 0.100000000000000000000000000 のように正確に表現されます。の 1/7 はまだ問題ですdecimal。しかし、少なくとも、2 進数に変換してから 10 進数に戻すことによって精度が失われることはありません。

の使用を検討してくださいdecimal。

于 2012-09-15T15:29:32.463 に答える