1

Monniauxの優れた記事「浮動小数点演算を検証する際の落とし穴」には、予期しない数値動作の例が示されています。ただし、ほとんどの例は、拡張精度FPUまたは拡張精度演算(積和演算など)に依存しています。符号付きゼロとNaNを含む比較に加えて、拡張高精度ハードウェアが無効になっている場合の驚くべき数値動作の良い例はありますか?

4

1 に答える 1

4

プログラマーにとってしばしば驚くべき例は、いつx + 1 == xです。単精度浮動小数点では、仮数の精度が制限さxれているため、これは小さい場合にも当てはまります。2^25これは、シミュレーションの時間値を小さなタイムステップでインクリメントするときによく発生します。同様の問題がパトリオットミサイルに影響を及ぼしました。

于 2011-07-28T03:38:34.243 に答える