問題タブ [bigdecimal]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
11 に答える
33636 参照

java - BigDecimal の対数

BigDecimal の対数を計算するにはどうすればよいですか? 私が使用できるアルゴリズムを知っている人はいますか?

これまでの私のグーグル検索では、単純に double に変換して Math.log を使用するという (役に立たない) アイデアが思いつきました。

必要な回答の精度を提供します。

編集:どのベースでも構いません。ベースxの方が簡単なら、そうします。

0 投票する
6 に答える
14856 参照

ruby - BigDecimal が奇妙な値を返すのはなぜですか?

通貨、料金などを処理するコードを書いています。計算とストレージに BigDecimal クラスを使用する予定ですが、奇妙なことに遭遇しました。

この文:

false を返します。

これらの値をフォーマット文字列で実行すると、次の"%.13f"ようになります。

2小数点以下の最後の桁にある BigDecimalの余分な部分に注意してください。

BigDecimal は、コンピューターのネイティブ浮動小数点に実数を直接格納することの不正確さに対抗するものだと考えていました。これはどこ2から来たのですか?

0 投票する
2 に答える
653 参照

java - BigDecimal:Javaコンパイラは1による乗算を最適化できますか?

BigDecimalについて話すとき、Javaコンパイラは1による乗算を削除しますか?

私はこれに似たものに立っています:

getOneTwoOrThreeメソッドが次のように宣言されている場合:

だから基本的に。

1を返す場合getOneTwoOrThree()、コンパイラは乗算を実行しますか?それとも命令を無視しますか?
これは実存的な疑問ですが、私はある程度初期段階にあると思います-最適化。

0 投票する
6 に答える
96708 参照

java - LongをBigDecimalにキャスト

どうすればキャストできLongますBigDecimalか?

0 投票する
4 に答える
19562 参照

java - Java BigDecimal が 1E+1 を返すのはなぜですか?

このコードが時々 1E+1 を返すのに、他の入力 (例: 17) の出力が科学表記法で出力されないのはなぜですか?

0 投票する
3 に答える
5823 参照

java - BigDecimal でスケールを取得するには?

BigDecimal には setScale メソッドがありますが、getScale メソッドはありません。BigDecimal でスケールを取得するには?

0 投票する
3 に答える
11371 参照

java - Bigdecimal(double d)構造がまだ残っているのはなぜですか?

私はこのコンストラクターにかなりの苦痛があることに気づきました(ここでもStack Overflowで)。ドキュメントに次のように明記されていても、人々はそれを使用します。

このコンストラクターの結果は、多少予測できない場合があります http://java.sun.com/javase/6/docs/api/java/math/BigDecimal.html#BigDecimal(double)

JSR-13承認され、次のような推奨事項が承認されているのを見たこともあります。

非推奨になる可能性のある既存の仕様:BigDecimal(double)コンストラクターの非推奨を提案します。これにより、現在、Double.toString()メソッドとは異なる結果が得られます。

これらすべてにもかかわらず、コンストラクターはまだ非推奨ではありません。

これについての意見を聞きたいです。

0 投票する
7 に答える
47986 参照

java - Java で BigDecimal が整数かどうかを確認する

aが数学的な意味で整数値かどうかを判断する効率的な方法は何ですか?BigDecimal

現在、次のコードがあります。

...しかし、可能であればオブジェクト作成のオーバーヘッドを避けたいです。

以前は、 がコンパクトな表現を内部で使用してbd.longValueExact()いる場合にオブジェクトの作成を回避するために使用していBigDecimalましたが、値が大きすぎて long に収まらない場合は明らかに失敗していました。

0 投票する
2 に答える
466 参照

ruby-on-rails - RubyのBigDecimalが奇妙な数字を表すことがあるのはなぜですか?

特定のレポートを実行すると、非常に奇妙な動作が見られます。

お気づきの方もいらっしゃると思いますがp.to_s、BigDecimalの表現は一貫しているように見えます。qと同じq.to_s。ただし、p-q文字列は「0.1244 ...」として表されますが、「10244.98...」としてフォーマットすると出力されます。

これを実行するnumber_to_currencyと、実際には予想された数ではなく間違った数($ 12,449.88)が表示されますが、これはRHEL4ボックスにのみ表示されます。