1

この記述は正しいですか?:

コンピューターでは浮動小数点数が対数分布するため、大きな数値の計算は正確ではありません。

つまり、1 前後の値で計算する方が (丸め誤差のため) より正確であることを意味し、たとえば、各数値が 1e20 でスケーリングされた場合と同じ計算になりますか?

4

1 に答える 1