0

私は前の質問のためにこの質問をしています。Visual Studio 2010、Eclipse CDT、およびgdbの両方で25.399999618530273（最後の4桁なし）として表示された値25.3999996185302734375がありました（gdbで「25.3999996185302734375を印刷するだけで、25.399930927185が表示されます）。

今、gdb（したがってEclipse CDT）で発行できます

 printf "%.20f\n", var

より多くの桁で値を表示します。

Visual Studio で同じことを行うにはどうすればよいですか?つまり、検査された浮動小数点値の精度を変更するにはどうすればよいですか?

手動で値を出力するのはそれほど便利ではないため、Visual Studio と Eclipse/gdb の両方でデフォルトの精度を変更する方法があるかどうかも知りたいです。

4

1 に答える 1

0

より多くの桁を取得することに関しては、あなたは運が悪い. Visual Studio (および他の多くのプログラミング環境) から 17 桁以上を取得することはできません。gcc、またはそれに基づくものを使用すると、必要な数の桁を取得できます。

詳細については、私の記事Print Precision of Dyadic Fractions Varies by Languageを参照してください。

于 2013-03-15T13:07:09.600 に答える