6
property name="poiLat" length="60" ormtype="big_decimal" persistent=true precision="16" scale="14" default="0" hint="";

精度や縮尺が正しくわかりません。上記のプロパティを使用すると、「1」でエラーが発生し、「2」が受け入れられるのはなぜですか?「1」を受け入れるために何に変更すればよいですか

1)-118.27=エラー

2)-18.27=わかりました

4

1 に答える 1

8

スケールとは、小数点以下の桁数を指します精度が16でスケールが14の場合、小数点以下2桁しか持てないため、

18.12345678901234 = ok 
118.27 = error

試す:

precision="16" scale="13" 

これにより118.1234567890123が許可されますが、小数点以下の桁数が多くなります。本当にいくつ必要ですか?

precision="16" scale="4"

123456789012.1234を許可します

于 2012-06-13T23:14:21.363 に答える