問題タブ [decimal]

C#で16進数と10進数をどのように変換しますか?

そこで、問題を解決するための Python スクリプトをいくつか作成して、物理学の宿題を解決しようと決心しました。私が直面している問題の 1 つは、有効数字が常に適切に表示されるとは限らないことです。たとえば、これは有効数字を適切に処理します。

しかし、これはしません:

だから2つの質問：

1. これは有効数字の予想される量ではないというのは正しいですか、それとも有効数字の計算をブラッシュアップする必要がありますか?
2. 小数の精度を手動で設定せずにこれを行う方法はありますか? 確かに、numpy を使用してこれを行うことができると確信していますが、好奇心から decimal モジュールでこれを行う方法があるかどうかを知りたいだけです。

Excel シートの数式を Java に変換していますが、Excel がどのように次の式を取得するのか理解できません: 0.22

繰り返しますが、2.8 を指定すると、4.48 になります。私は小数について少し読んだことがあり、変換を理解していますが、これは上記の説明にはまだ役立っていません。

私が望むのは、double を半減法を使用して丸める文字列に変換する方法です。つまり、丸められる小数が 5 の場合、常に次の数値に切り上げられます。これは、ほとんどの人がほとんどの状況で期待する丸めの標準的な方法です。

また、有効数字のみを表示したいと思います。つまり、末尾のゼロがあってはなりません。

String.formatこれを行う1つの方法は、次の方法を使用することです。

戻り値：

これは素晴らしいことですが、重要でない場合でも、常に小数点以下 5 桁の数値が表示されます。

戻り値：

別の方法は、次を使用することDecimalFormatterです。

戻り値：

ただし、ご覧のとおり、これは半偶数丸めを使用しています。つまり、前の桁が偶数の場合は切り捨てられます。私が欲しいのはこれです：

Javaでこれを達成する最良の方法は何ですか?

現在 で小数点以下の値を表示する場合、小数点以下.ToString()15 桁まで正確です。ドルとセントを表すために使用しているので、小数点以下 2 桁だけを出力したいと考えています。

これには のバリエーションを使用し.ToString()ますか?

ここで見つかったものと同様の問題があります: JSF selectItem ラベルのフォーマット。

私がやりたいことは、my の値として double を受け入れ、小数点以下 2 桁で表示することです。これは簡単な方法で行うことができますか？

使用してみましたが、入力フィールドの初期値ではなく、サーバーに送信されるinputTextの値に適用されるようです。

これまでの私のコード:

編集: 上記のコードは実際に動作します。プロジェクトを明示的に再構築して組み込み OC4J サーバーを再起動しても、jsp ページを更新しない JDeveloper にだまされました。ただし、コンピューターを再起動した後はすべて問題ありませんでした。

int数は&よりも大きいですlongが、 に収まりDecimalます。しかし、通常のToStringorConvertメソッドは では機能しませんDecimal。

私はこのような状況にあります。SQL 2005 データベースの varbinary フィールドに実数が格納されています。SQL 2005 では varbinary を real に変換できないため、vb.net で変換しようとしています。

そのフィールドは、DataTable に byte() 配列として格納されます。

次に、その byte() を double または decimal 変数に読み込みたいと思います。しかし、私はそれを行う方法についての手がかりがあまりありません...

人々が金融アプリケーションに double ではなく decimal を使用しているかどうかを確認したかったのです。意図しない結果をもたらす double をあちこちで使用している人をたくさん見てきました。.

他の人がこの間違いをしているのを見ますか? . .