0

a、b の2 つの浮動小数点数があるとします。aの値をbに割り当てる必要があります。次に、bは関数によってテキスト文字列に変換されますが、これは変更できません。変換は、浮動小数点数の最初の 3 桁を丸めずに取得することによって行われ、他のポイントは無視されます。これは精度の低下につながります。

質問:変換後にbが丸められた場合のようになるように、 a の値を変更するにはどうすればよいですか?

問題を説明できたことを願っていますが、そうでない場合は教えてください。

4

1 に答える 1

2

これらの関数は「切り捨て」を使用していると思います: 1.2346 => 1.234 ですね。

0.0005を追加できます

b = a + 0.0005

例：

下に丸める

a = 1.2341;
b = a + 0.0005; // 1.2346
string result = yourfunction(b); // 1.234

上に丸める

a = 1.2346;
b = a + 0.0005; // 1.2351
string result = yourfunction(b); // 1.235
于 2016-03-28T08:01:26.263 に答える