重複の可能性:
精度、スケール、合計、除算..切り捨て
質問があります。関数をプログラムしましたが、convert を使用して 2 つの数値を除算すると問題が発生します。次に例を示します。
Declare @A Numeric(18,6)
Declare @B Numeric(18,6)
Set @A = 1
Set @B = 130
次のクエリを実行すると、結果は次のようになります。0.007692307692307692
Select Convert(Decimal(30,18),@A / @B)
しかし、私がこれを行うと、結果は次のようになります: 0.007692300000000000
(小数を失う)
Select Convert(Decimal(30,18),Convert(Decimal(30,18),@A) / Convert(Decimal(30,18),@B))
同じ精度とスケールを使用している場合、小数が失われる理由を誰かが説明できますか?