浮動小数点形式(IEEE)について学んでいます。単精度浮動小数点形式では、仮数は24ビットであるため、6 1/2桁の精度(本「機械を理解する」による)と7.22桁の精度を持っていると言われています。
精度の小数がどのように計算されるのかわかりません。誰かが私を教えてくれませんか?
浮動小数点形式(IEEE)について学んでいます。単精度浮動小数点形式では、仮数は24ビットであるため、6 1/2桁の精度(本「機械を理解する」による)と7.22桁の精度を持っていると言われています。
精度の小数がどのように計算されるのかわかりません。誰かが私を教えてくれませんか?
24ビットの場合、1ビットが符号用に予約されていると仮定すると、表現できる最大の10進数は2 ^ 23-1=8388607です。つまり、6桁、場合によっては7桁を取得できます。これは「61/2桁」と表現されることがよくあります。24ビットが符号なし数値を表す場合、格納できる最大値は2 ^ 24-1 = 16,777,215、つまり7と小数桁です。
誰かがあなたに7.22の小数点以下の桁のような明示的な小数点以下の桁数を引用するとき、彼らがしていることは最大値の対数(基数10)をとることです。したがって、log(16777115)=7.22です。
一般に、特定のビット数から得られる10進数の桁数は次のとおりです。
d=log[base 10](2^b)
ここで、bはビット数、dは10進数です。それで:
d=b * log(2)
d~=b * .3010
したがって、24ビットは24 * .3010=7.224になります