0

重複の可能性:
10 進数を 2 進数で正確に表現できないのはなぜですか?

私は問題を抱えており、シンプレックス問題を解いています.数回の反復中に、1回の反復で値が.400000であることが判明しました.今、この値に100を掛けて40.000000を取得しています.今、この値を40で減算していますが、解決策この値が .000001 になる方法を理解できません?? この .000001 は値のチェック中に問題を引き起こしているため、つまり 0 と比較していますが、コンパイラはこれを 0 より大きい値として扱い、間違った答えを得ています。このエラーを修正するにはどうすればよいですか?

4

1 に答える 1

2

浮動小数点の機械精度に関係しています。ここでそれについて読んでください:http://en.wikipedia.org/wiki/Floating_point#Machine_precision

于 2011-04-30T20:51:16.320 に答える