0

Case Select の一部のロジック ステートメントに問題があります。しかし、私はそれをエクセルでいくつかの奇妙な数学まで追跡しました。次の数式は、false であると予想される場合に、即時ウィンドウで True として評価されます。

?(0.09 /0.1)<0.9

これがなぜなのか、誰か説明できますか?

4

2 に答える 2

2

浮動小数点演算は、Excel で不正確な結果をもたらす場合があります。

より詳細な記事については、「すべてのコンピューター科学者が浮動小数点演算について知っておくべきこと」を参照してください。

これは、 StackOverflowに関する関連する質問です。

@scott のコメントに解決策があります。

? round((0.09/0.1),1)<0.9
于 2012-11-08T16:07:32.210 に答える
0

これは、vbが式を整数に変換してゼロに解決するためである可能性があります。試す

   ?  CDBL((0.09/0.1) < 0.9
于 2012-11-08T15:25:21.610 に答える