重複の可能性:
T-SQL 10 進数除算の精度
SQL Server 2005 で、次のクエリを実行すると:
select cast(1 as decimal(38,18))/cast(150 as decimal(38,18))
0.006666 (小数点以下 6 桁) を返します。
ただし、そうする場合:
select cast(1 as decimal(24,18))/cast(150 as decimal(24,18))
0.00666666666666 (小数点以下 14 桁) を返します。
誰か私にそれらの結果を説明してもらえますか?