11

重複の可能性:
JavaScriptの数学は壊れていますか?

6.4-1.6を引くと、JSでは4.800000000000001と答えられますが、toFixed()、toPrecision()、Math.round()を使用せずに4.8が必要です。何か案が???

ありがとう、

結晶

4

2 に答える 2

26

浮動小数点演算の問題を回避するために、減算を実行する前に整数に変換します。

(6.4 * 10 - 1.6 * 10) / 10

浮動小数点演算についてすべてのプログラマーが知っておくべきことを参照してください

于 2012-05-23T05:26:49.173 に答える
6

これは、IEEE754浮動小数点数のよく知られた制限です。JavaScriptで浮動小数点数の精度を処理する方法を参照してください。ソリューションのために。

于 2012-05-23T05:24:47.870 に答える