Octave を使用して、sin(x) に関連する丸め誤差を調べようとしています。次の数値が得られます。
>> single(sin(10))
ans = -0.544021129608154
>> sin(10)
ans = -0.544021110889370
>> (single(sin(10))) - (sin(10))
ans = 0
-1.8718784 × 10^-8
と入力しましformat long
たが、それでもゼロになり、実際の答えを得る方法がわかりません。