0

だから私は次のようなExcelシートを持っています:(私はすべての無関係な情報を取り出しました)

ここに画像の説明を入力

Dは、すべてのセルにドラッグされた数式です (行番号を変更します):

=IF(A2 = "",$D1-C2,A2 - C2)

セルD6が表示されている場合は、何らかのエラーがあることに気付くでしょう。2つの例を含めました。表の下半分は、同じ式で正しく機能しています。最初のセクションは機能していません。これは 0.985 のせいだと思いますが、0.9 より上で 1 より下の場合にのみ発生するようです。

問題が何であるかを理解するのを手伝ってくれる人はいますか?

4

2 に答える 2

2

浮動小数点数の丸めエラーのように見えます (詳細については、IEEE 浮動小数点を参照してください)。この問題はround、特定の小数点以下の桁数を使用することで解決できます。たとえば round(D6, 3)、必要な場合は、D6 を小数点以下 3 桁に丸めて精度を高めます。

于 2013-02-13T07:18:20.493 に答える