0

浮動小数点値 (int にパッケージ化されている) を int 値にキャストするビット単位のコードに従う必要があります。

質問: 丸めの問題があるため、たとえば入力が 0x80000001 の場合に失敗します。どうすればこれを処理できますか?

コードは次のとおりです。

  if(x == 0) return x;

  unsigned int signBit = 0;
  unsigned int absX = (unsigned int)x;
  if (x < 0)
  {
      signBit = 0x80000000u;
      absX = (unsigned int)-x;
  }

  unsigned int exponent = 158;
  while ((absX & 0x80000000) == 0)
  {
      exponent--;
      absX <<= 1;
  }

  unsigned int mantissa = absX >> 8;

  unsigned int result = signBit | (exponent << 23) | (mantissa & 0x7fffff);
  printf("\nfor x: %x, result: %x",x,result);
  return result;
4

1 に答える 1

1

これは、の精度がの精度を0x80000001超えているためfloatです。x - yリンク先の記事を読んでください。floatの精度は24ビットであるため、差（ ）が2つの最上位ビットよりも小さいfloatのペアは>> 24検出できません。 gdbあなたのキャストに同意します：

main.c：

#include <stdio.h>

int main() {
    float x = 0x80000001;
    printf("%f\n",x);
    return 0;
}

gdb：

Breakpoint 1, main () at test.c:4
4       float x = 0x80000001;
(gdb) n
5       printf("%f\n",x);
(gdb) p x
$1 = 2.14748365e+09
(gdb) p (int)x
$2 = -2147483648
(gdb) p/x (int)x
$3 = 0x80000000
(gdb)

この不正確さの限界：

(gdb) p 0x80000000 == (float)0x80000080 
$21 = 1
(gdb) p 0x80000000 == (float)0x80000081
$20 = 0

実際のビット単位の表現：

(gdb) p/x (int)(void*)(float)0x80000000
$27 = 0x4f000000
(gdb) p/x (int)(void*)(float)0x80000080
$28 = 0x4f000000
(gdb) p/x (int)(void*)(float)0x80000081
$29 = 0x4f000001

double■区別するのに十分な精度があります。

(gdb) p 0x80000000 == (float)0x80000001
$1 = 1
(gdb) p 0x80000000 == (double)0x80000001
$2 = 0
于 2012-09-10T01:16:44.057 に答える