Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
が n ビットの許容誤差aよりも小さいかどうかを計算するコードを作成しようとしています。ここで、 とは倍精度変数です。bab
a
b
たとえば、 に4.000000001 < 4.00000001なりますがTRUE、4.0000000001 < 4.000000001になりますFALSE。3.99999999 < 4.00000000もあるでしょうFALSE。また、 and が負になる可能性があることに注意してaくださいb。
4.000000001 < 4.00000001
TRUE
4.0000000001 < 4.000000001
FALSE
3.99999999 < 4.00000000