3

重複の可能性:
T-SQL 10 進数除算の精度

SQL Server 2005 で、次のクエリを実行すると:

select  cast(1 as decimal(38,18))/cast(150 as decimal(38,18)) 

0.006666 (小数点以下 6 桁) を返します。

ただし、そうする場合:

select  cast(1 as decimal(24,18))/cast(150 as decimal(24,18))

0.00666666666666 (小数点以下 14 桁) を返します。

誰か私にそれらの結果を説明してもらえますか?

4

0 に答える 0