1

次の文に気付きます

 echo | awk '{OFMT="%.16e";CONVFMT="%.16e";print 10.-0.1*011}'

9.0999999999999996e+00 を与える

そしてこれ

 echo | awk '{OFMT="%.16e";CONVFMT="%.16e";print 10.-0.1*11}'

8.9000000000000004e+00を与える

11 の左側のゼロに注目してください。この結果の違いは大丈夫ですか?

ありがとう

4

1 に答える 1