2

2つの浮動小数点値を除算しているときに、精度エラーのために間違った答えが返されていました。たとえば、1001.05 / 5.0は200.21に等しいはずですが、200.2099999999を取得しました。

正しい結果は、「/」の代わりに数学ライブラリの除算関数を使用して取得されました。では、精度エラーを修正するために、このライブラリ関数はどのような追加機能を実行しているのでしょうか。この関数が使用していたはずの精度エラーを修正するために使用される標準アルゴリズムについて説明するか、情報を教えてください。

4

1 に答える 1

6

数学ライブラリが浮動小数点数を使用していないか、印刷時に結果を丸めています。200.21 は、標準の浮動小数点数では正確に表すことができません。

于 2012-05-21T09:09:14.093 に答える