1

Wolfram Alphaの場合：

plot -EXP(t)/2 LN((EXP(t)-1)/(EXP(t)+1)) from t=0 to t=40

四捨五入

2^24これは、減算オペランドの桁が（32ビット浮動小数点）よりも大きい場合に、ソリューションで丸め誤差がどのように表示されるかを示していますか？

リンク：方程式のプロット

リンク：すべてのコンピューター科学者が浮動小数点演算について知っておくべきこと

4

1 に答える 1

0

基本的には、はい。ただし、減算は計算に隠されており、データ型はdoubleであり、floatではありません。

大きいt場合、(exp(t)-1)/(exp(t)+1)は本質的1 - 2exp(-t)にであり、その対数は非常に近い-2exp(-t)です。ただし、に2exp(-t)比べて非常に小さいため1、対数に渡される値で精度のほとんどのビットが失われ、観測しているすべてのノイズが発生します。

于 2012-09-21T18:05:25.067 に答える