問題タブ [floating-point]

1.001と0.001の 2 つのテキストボックス値を追加してから、 1.0019999999parseFloatを取得します。1.002が欲しいです。手伝って頂けますか？

デバッガーでは、これらは および として表示され11.631000000000000ます21.399999618530273。

どうすればこれを回避できますか?

10進数（浮動小数点）を最も近い整数に丸めるにはどうすればよいですか？

例えば

以下のコードでmpf_addは、2 つの浮動小数点値の文字列表現を追加するために使用しています。この時点で私が理解していないのは、その理由2.2 + 3.2 = 5.39999999999999999999999999999999999999です。gmpを与えるのに十分賢いと思っていたでしょう5.4。

gmp がどのようにフロートするかについて、私は何を理解していませんか?

（ところで、これを最初に書いたとき、小数点を挿入する方法がわからなかったので、最後にプラス/マイナスの数字が入ります）

私の知る限り、Delphi Win32 の通貨型はプロセッサの浮動小数点精度に依存します。このため、2 つの Currency 値を比較するときに丸めの問題が発生し、マシンによって異なる結果が返されます。

今のところ、Epsilon パラメーター = 0.009 を渡す SameValue 関数を使用しています。これは、10 進数 2 桁の精度しか必要としないためです。

この問題を回避するためのより良い方法はありますか?

Java と C に大きな float と double を (10 億の範囲で) 与えると、それらは科学表記法に変換され、その過程で精度が失われます。どうすればこの動作を止めることができますか?

最近、DECの32ビット浮動小数点表現を解釈する必要がありました。指数と仮数に割り当てられるビット数がIEEE浮動小数点表現とは異なります。

一連の浮動小数点形式の説明は次のとおりです。

http://www.quadibloc.com/comp/cp0201.htm

私は自分のC++コードをロールして、DEC32ビットfloatをIEEE32ビットfloatに詰め込むことができましたが、この変換や他の変換にすでに取り組んでいるライブラリがあるかどうか疑問に思いました。

boost.orgを確認しましたが、何も表示されませんでした。

次のプロジェクトは、c++ ではなく c# (SlimDX を使用) で行う予定です。

DirectX はすべて float を使用しますが、System.Math は double を使用します。これは、float と double の間で常に変換を行うことを意味します。

したがって、理想的には、浮動小数点数を使用してすべてのコードを記述したいと思います。とにかく、常に倍精度浮動小数点数から浮動小数点数に変換する追加の精度が得られないためです...

ただし、フロートを使用する .net 用の一連の数学関数を見つけることができませんでした。もちろん、C# で独自のライブラリを作成することもできますが、むしろ最適化された既存のライブラリを使用するなど...

次のコードがある場合 (これは .NET で記述されています)

なぜi等しくないの0.3ですか？
何か案は？

C ++でNaNを使用する最良の方法は何ですか?

std::numeric_limits<double>::quiet_NaN()とを見つけましstd::numeric_limits<double>::signaling_NaN()た。signaling_NaN次のように、初期化されていない変数を表すために使用したいと思います。

ただし、これは割り当て時に通知されます (例外が発生します)。割り当てではなく、使用時に例外を発生させたい。

signaling_NaN割り当て時に例外を発生させずに使用する方法はありますか? signaling_NaN使用時に浮動小数点例外が発生する、移植可能な優れた代替手段はありますか?