たとえば、円周率を取り、1 から 1000 までの乱数を見つけた場合、円周率をその数値で割ります。次に、その数値を pi に掛けます。
それは浮動小数点エラーを引き起こすべきですか？
(そして、プロセッサで許容されるエラーは何ですか?)
2 に答える
0
はい、ほぼ確実にエラーになります (結果が元の値と同じではないという意味で)。
エラーを見つけたい場合、(この場合)何が問題なのoriginal - finalですか?
于 2012-02-29T00:40:22.763 に答える
0
あなたの質問は非常に広範です.スタックオーバーフローのいくつかの段落で答えようとするのは広すぎます. 代わりに、「すべてのコンピューター科学者が浮動小数点演算について知っておくべきこと」というタイトルの有名な論文を読んでみてください。
http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf
于 2012-02-29T00:41:14.140 に答える