c - double を整数で割る

Question

をで割っているときに問題に直面doubleしていintます。コードスニペットは次のとおりです。

  double db = 10;
  int fac = 100;
  double res = db / fac;

res の値は0.10000000000000001ではなくです0.10。

誰かがこれの理由を知っていますか? cc を使用してコードをコンパイルしています。

score 10 · Accepted Answer

score 4 · Accepted Answer

CPU は数値の 2 進数表現を使用します。結果をバイナリで正確に表すことはできません。バイナリの 0.1 は 0.00011001100110011 です... CPU は特定の時点でそれを切り捨て、丸め誤差を取得します。

score 0 · Accepted Answer

double は浮動小数点演算子であり、正確な値を提供しません。Googleで精度と浮動小数点演算子を調べてください。

3 に答える 3