5

Windows の電卓に 1.000000000000000000000000000001 を入力して階乗 (n!) ボタンを繰り返し押すと、奇妙な結果が得られます。

1.0000000000000000000000000000001 [n!]
1                                 [n!]
1                                 [n!]
1                                 [n!]
0.9999999999999999999999999999997 [n!]
0.9999999999999999999999999999998 [n!]
0                                 [n!]
1

自分で試してみてください - それはかなり奇妙です!

私の主な関心事は、最後から 2 番目のステップでなぜゼロになるのかということです。IEEE フロートのどのアーティファクトがこれらの問題を引き起こしていますか?

4

1 に答える 1