5

数値変数は、TI 電卓に関する文書化された標準に従っていますか?

私の TI 83 Premium CE で、このテストが実際に true (つまり 1) を返すことに気づき、本当に驚きました。

0.1 -> X

0.1 -> Y

0.01 -> Z

X*Y=Z

私の計算機がIEEE 754標準のようなものを使用して浮動小数点数を表すと仮定して、これが失敗することを期待していました。

一方、2^50+3-2^50 を計算すると 0 が返されます。これは、大きな整数がそのような標準を使用しているように見えることを示しています。ここでは、大きな数の仮数が制限されていることがわかります。

4

1 に答える 1