現在、System.Decimals を使用して、開発中の .NET アプリケーションで数値を表しています。小数は丸めによる誤差を最小限に抑えるように設計されていることは知っていますが、特定の数値、たとえば 1/3 は小数として表すことができないため、計算によっては小さな丸め誤差が生じることも知っています。このエラーの大きさは非常に小さく、取るに足らないものになると思いますが、同僚は同意しません。したがって、アプリでの丸めによる誤差の大きさを推定できるようにしたいと考えています。たとえば、現在の「取引」の合計を計算しており、1 日あたり約 10,000 件の「取引」を行い、現在の合計を計算するために約 5 ~ 10 の小数演算 (add、sub、div、mul など) があるとします。受け取った各取引の新しい現在の合計、ラウンドエラーのマグネイトの順位は?これを計算する手順も答えてくれるといいので、将来自分でこれを行う方法を学ぶことができます。
1 に答える
1
すべてのコンピューター科学者が浮動小数点演算について知っておくべきことは、浮動小数点型の精度を考慮して、一連の浮動小数点演算の結果の誤差を見積もることについて詳しく説明しています。ただし、実際のプログラムでこれを試したことはないので、実現可能かどうか知りたいです。
于 2010-07-02T15:57:34.220 に答える