4

重複の可能性:
精度、スケール、合計、除算..切り捨て

質問があります。関数をプログラムしましたが、convert を使用して 2 つの数値を除算すると問題が発生します。次に例を示します。

Declare @A Numeric(18,6)
Declare @B Numeric(18,6)

Set @A = 1
Set @B = 130

次のクエリを実行すると、結果は次のようになります。0.007692307692307692

Select Convert(Decimal(30,18),@A / @B)

しかし、私がこれを行うと、結果は次のようになります: 0.007692300000000000(小数を失う)

Select Convert(Decimal(30,18),Convert(Decimal(30,18),@A) / Convert(Decimal(30,18),@B))

同じ精度とスケールを使用している場合、小数が失われる理由を誰かが説明できますか?

4

0 に答える 0