.NETを使用して計算を実行する場合、何に注意する必要がありますか？
たとえば、浮動小数点エラーについては少し知っていますが、CodeProjectに関するこのフォーラムの投稿には慣れていません。.NETベースの数学の知識を完成させて、さまざまなビットサイズのパラメーターと結果を操作する方法をアドバイスできるようにするには、何を知っておく必要がありますか。
2 に答える
1
浮動小数点は2進小数を格納することを常に覚えておいてください。つまり、数値は2 ^（-n）の合計系列で表されます。ここで、nは1から（仮数サイズ）までの任意の整数で、指数Ndecimalになります。財務計算に使用します。
また、32ビットプロセッサでの64ビットワードの読み取り/書き込みはアトミックではないため、スレッドセーフではないことにも注意してください。より一般的には、共有された可変状態が常に安全に読み取れると期待しないように最善を尽くしてください。
于 2010-11-02T22:15:33.027 に答える
1
数値タイプが異なれば範囲も異なることを覚えておく必要があります。静的プロパティMinValueとMaxValueプロパティを見てください。これらの範囲を（加算、乗算などによって）超えると、答えはあなたが思っているものにはなりません。（数値は最大値から最小値に戻ります。）
于 2010-11-03T11:27:55.707 に答える