問題タブ [bigdecimal]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - BigDecimal の対数
BigDecimal の対数を計算するにはどうすればよいですか? 私が使用できるアルゴリズムを知っている人はいますか?
これまでの私のグーグル検索では、単純に double に変換して Math.log を使用するという (役に立たない) アイデアが思いつきました。
必要な回答の精度を提供します。
編集:どのベースでも構いません。ベースxの方が簡単なら、そうします。
ruby - BigDecimal が奇妙な値を返すのはなぜですか?
通貨、料金などを処理するコードを書いています。計算とストレージに BigDecimal クラスを使用する予定ですが、奇妙なことに遭遇しました。
この文:
false を返します。
これらの値をフォーマット文字列で実行すると、次の"%.13f"
ようになります。
2
小数点以下の最後の桁にある BigDecimalの余分な部分に注意してください。
BigDecimal は、コンピューターのネイティブ浮動小数点に実数を直接格納することの不正確さに対抗するものだと考えていました。これはどこ2
から来たのですか?
java - BigDecimal:Javaコンパイラは1による乗算を最適化できますか?
BigDecimalについて話すとき、Javaコンパイラは1による乗算を削除しますか?
私はこれに似たものに立っています:
getOneTwoOrThreeメソッドが次のように宣言されている場合:
だから基本的に。
1を返す場合getOneTwoOrThree()
、コンパイラは乗算を実行しますか?それとも命令を無視しますか?
これは実存的な疑問ですが、私はある程度初期段階にあると思います-最適化。
java - LongをBigDecimalにキャスト
どうすればキャストできLong
ますBigDecimal
か?
java - Java BigDecimal が 1E+1 を返すのはなぜですか?
このコードが時々 1E+1 を返すのに、他の入力 (例: 17) の出力が科学表記法で出力されないのはなぜですか?
java - BigDecimal でスケールを取得するには?
BigDecimal には setScale メソッドがありますが、getScale メソッドはありません。BigDecimal でスケールを取得するには?
java - Bigdecimal(double d)構造がまだ残っているのはなぜですか?
私はこのコンストラクターにかなりの苦痛があることに気づきました(ここでもStack Overflowで)。ドキュメントに次のように明記されていても、人々はそれを使用します。
このコンストラクターの結果は、多少予測できない場合があります http://java.sun.com/javase/6/docs/api/java/math/BigDecimal.html#BigDecimal(double)
JSR-13が承認され、次のような推奨事項が承認されているのを見たこともあります。
非推奨になる可能性のある既存の仕様:BigDecimal(double)コンストラクターの非推奨を提案します。これにより、現在、Double.toString()メソッドとは異なる結果が得られます。
これらすべてにもかかわらず、コンストラクターはまだ非推奨ではありません。
これについての意見を聞きたいです。
java - Java で BigDecimal が整数かどうかを確認する
aが数学的な意味で整数値かどうかを判断する効率的な方法は何ですか?BigDecimal
現在、次のコードがあります。
...しかし、可能であればオブジェクト作成のオーバーヘッドを避けたいです。
以前は、 がコンパクトな表現を内部で使用してbd.longValueExact()
いる場合にオブジェクトの作成を回避するために使用していBigDecimal
ましたが、値が大きすぎて long に収まらない場合は明らかに失敗していました。
ruby-on-rails - RubyのBigDecimalが奇妙な数字を表すことがあるのはなぜですか?
特定のレポートを実行すると、非常に奇妙な動作が見られます。
お気づきの方もいらっしゃると思いますがp.to_s
、BigDecimalの表現は一貫しているように見えます。q
と同じq.to_s
。ただし、p-q
文字列は「0.1244 ...」として表されますが、「10244.98...」としてフォーマットすると出力されます。
これを実行するnumber_to_currency
と、実際には予想された数ではなく間違った数($ 12,449.88)が表示されますが、これはRHEL4ボックスにのみ表示されます。