floating-point - 小数点以下 9 桁で格納可能な最大浮動小数点値はいくつですか?

Question

小数点以下9桁の要件を考えると、どの最大値がフロートオーバーフローになるか疑問に思っていました

Answer 1

8,388,608、IEEE-754 64 ビット 2 進浮動小数点の場合、しばしば として知られていdoubleます。

^{この大きさを下回るすべての値について、隣接する表現可能な値間のステップ サイズは 10 -9}未満であるため、小数点以下 9 桁で表現可能な各数値は、他の数値と区別できます。

その大きさを超えると、ステップ サイズが大きすぎます。次のより大きな表現可能な値は8,388,608.00000000186264514923095703125で、8,388,608.0000002に近い8,388,608.0000002に近いので、8,3888888888888888888888888888888888888888888888888888888888888888888888888888年までにはありません。

32 ビットの場合、最大値は .015625 になります。したがって、32 ビットfloatはおそらく役に立ちません。