重複の可能性:
浮動小数点はどのように格納されますか? いつ問題になりますか？
私のWin7 x64で組み込みの計算機を使用すると、計算-8.1648465955514287168521180122928e-39時に数値が得られますsqrt(4)-2。
結果は0になると思います。
1124 次
1 に答える
1
時々浮動小数点値を減算すると、浮動小数点値にエラーが発生します。0 または 0 に非常に近い表現が得られる場合があります (10^-39 はかなり近い)。
詳細については、Wikipedia のFractions in Binaryを参照してください。
于 2012-04-10T22:27:47.683 に答える