floating-point - 浮動小数点エラーが発生しないようにTIオペレーティングシステムはどのようにコーディングされていますか？

Question

グラフ電卓で浮動小数点エラーをチェックするためのテストを実行しましたが、48時間の完全で完全なランダム性の後、電卓は1桁の精度を失っていませんでした。

TIはこれをどのように実現しますか？

Answer 1

TI-89およびTI-92は、記号計算を使用して値を正確に格納することにより、エラーを回避します。

実際の浮動小数点計算（89/92の「近似」モード）にはエラーがあります。TI計算機は、保存する桁数よりも少ない桁数を表示するため、気づきにくいだけです。また、2進数ではなく10進数を使用します。

たとえば、TI-89で「近似」モードで式を入力すると、正確なモードではなく1/3*3-1、答えが得られます。内部的には、計算は次のように行われます。⁻1.ᴇ⁻140

• 1/3を与え0.33333333333333、有効数字14桁に丸めます。
• 3を掛けると0.99999999999999。丸めのため、これは次のように表示されます1.
• 1を引く-0.00000000000001と、、または-1e-14が得られます。