問題タブ [bigdecimal]

「10364055.81」のような10進数を表すのに適したデータ型。

doubleを使用してみた場合：

しかし、番号を印刷しようとすると、「1.036405581E7」と表示されますが、これは望ましくありません。

BigDecimalを使用する必要がありますか？ただし、10364055.81000000052154064178466796875と表示されます。値をそのまま表示するデータ型はありますか？また、その数は例として取り上げたものよりも大きい場合があります。

ところで、BigDecimalを使用すると、アプリケーションのパフォーマンスに影響しますか？ほとんどすべてのDTOでこれを使用する可能性があります。

GWTでBigDecimalをシリアル化するための好ましいアプローチは何ですか？

賢い回避策はありますか、それとも単にDoubleまたはStringを使用しますか？

すべてのGWTの苦痛の中で、これはこれまでのところ最大です。サーバー用とGWT用の2つのモデルを作成し、データを一方から他方に変換するのは嫌です。一方、javax.xml.datatype.Durationの代わりにStringを使用することはあまり気にしませんが、計算のためにサーバーでBigDecimalを使用する必要があります。つまり、2つのモデルと変換、または計算ごとにBigDecimalへの小さな変換が大量に発生します。

非常に奇妙なエラーに遭遇しました。私はSolaris10を使用しており、Rails2.3.4でRubyEnterprise Edition（ruby 1.8.6（2008-08-08 patchlevel 286）[i386-solaris2.10]）を使用しています。非常に奇妙なエラーがあります。irbで：

すべて順調！しかし、Railsコンソールを起動して同じことを行うと、「to_f」は常に「0,0」を返します。

Macで同じことをすると、これは起こりません。とても変だ！これはRubyEnterpriseEditionのバグである可能性がありますか？しかし、もしそうなら、なぜそれはirbで起こらないのですか（これはREEバージョンでもあります、私は再確認しました）。何か案は？

• ヨハネス

BigDecimalタイプで表されたいくつかの通貨値を使用して、いくつかの単純な合計を実行したいと考えています。

BigDecimal明らかに、私は算術をよく理解していません。後ろの出力を参照してください。

誰でも私を助けることができますか？

ある大きな10進値を別の値に割り当てるのに問題があります

1つの一時的な大小数を作成し、別の大小数に0を追加するなどの試みをしています

ただし、以下の操作は大きな小数でのみ実行したいだけです。

BigDecimal として表される値を使用してテストを作成しているときに、奇妙なことに遭遇し、それを掘り下げることにしました。つまり、「0.00009」を小数点第 2 位に四捨五入すると、0.00 ではなく 0.01 として返されます。本当。これが私のスクリプト/コンソールのキャプチャです：

ああ、次のように、デフォルト モードを使用しても同じ結果が得られます。

ここに私のバージョンがあります：

誰もこのようなものを見たことがありますか？

金額を5セント単位で切り上げる方法を見つけようとしています。以下は私の期待される結果を示しています

結果は2の精度である必要があります（上記のように）。

アップデート

以下のアドバイスに従って、私ができる最善のことはこれです

これが100％コーシャであるとは確信していません-ダブルスとの間で変換するときに精度が失われる可能性があるのではないかと心配しています。しかし、これは私がこれまでに思いついた中で最高であり、機能しているようです。

標準の反復アルゴリズムを使用して n 乗根を計算しようとしました。

たとえば、(111^123)^(1/123) です。

標準アルゴリズムは、基数の高べき乗(この場合は 111^123)を計算しますが、これには多くの時間がかかります。アルゴリズムはここにありますhttp://en.wikipedia.org/wiki/Nth_root_algorithm

しかし、double を使用した同じ処理に 1 ミリ秒もかからないことに気付きました。明らかに、彼らはいくつかの賢いアイデアを使用しています。これに関するヒントはありますか？

私はこの問題を抱えています：財務担当者は「あなたのプログラムの誤り」と言っています。

財務からの値と最終計算の公式表は

関数の戻り値は、そのテーブルの合計値と一致する必要があります。

システムアウト： BASE=1077.70 - descount=16.17 totalvalue=1061.53 missing value of table! BASE=1280.55 - descount=19.21 totalvalue=1261.34 missing value of table!

場合によっては差分は0.01セントですが、この人々の世界は18.340レジストリであるため、財務的には不可能です。差分は18340 x 0.01 x 365 x 2 = 4401,6 ===> R$4401,6これは1セントが正しく丸められていません！誰か助けてもらえますか？ありがとうJAY...これはJAYによって提案されました：

ジェイのアイデアに基づいて、私は金融関係者が言ういくつかの変更を加えます：「まあ、私たちはクライアントに割引を適用することはできません。

全てに感謝！...