問題タブ [double]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - Cで作成されたバイナリファイルからdoubleを読み取る最良の方法は何ですか?
AC プログラムは、連続する double をバイナリ ファイルに吐き出します。それらをPythonに読み込みたい。使ってみたstruct.unpack('d',f.read(8))
編集:Cで次を使用して、ランダムな倍精度数を記述しました
エラーは修正されましたが、最初の値を読み取ることができません。すべて 0.000.. の場合は 3.90798504668055 と表示されますが、残りは問題ありません。
c# - 2 つの整数を除算して double を取得するにはどうすればよいですか?
2 つの整数を除算して double を取得するにはどうすればよいですか?
.net - .NETでdouble値を選択した小数点以下の桁数に丸める方法は？
加速度センサーを使用して現在の加速度を計算すると、double値が返されます。
ただし、現在の加速度を値9.8と比較したいと思います。その前に、センサーから受け取った値を丸める必要があるので、質問は次のとおりです。.NETでdouble値を選択した小数点以下の桁数に丸める方法は？
c++ - double の除算時の予期しない精度の低下
パラメータとして 4 つの double を取り、この指定されたパラメータを使用して次の方法で計算された別の double を返す関数 getSlope があります。
問題は、たとえば次のように引数を指定してこの関数を呼び出す場合です。
返される結果は次のとおりです。
これは私の計算では良い結果ではありません。Mathematica を使用して勾配を計算しましたが、同じパラメータの勾配の結果は次のとおりです。
または精度のために桁数を増やします：
プログラムから返された結果は、その後の計算では適切ではありません。さらに、プログラムが 10.845222072678331 から始まる 10.8557 を返す方法がわかりません (これが除算のおおよその結果であると仮定して)。自分の部門で良い結果を得るにはどうすればよいですか?
前もってありがとう、マダリナ
コマンドラインを使用して結果を出力します。
別のプログラム（グラフを計算するプログラム）からパラメーターを読み取ったため、パラメーターが適切ではない可能性があります。グラフからこのパラメーターを読み取った後、値を確認するために表示しましたが、表示されたベクトルは同じではない可能性があります計算値の内部精度..私はそれが本当に奇妙であることを知りません.いくつかの数値エラーが表示されます..)
パラメータを読み取っているグラフが計算されるとき、C++ で記述された数値ライブラリ (テンプレート付き) が使用されます。この計算には OpenGL は使用されません。
ありがとう、マダリナ
java - 不必要な 10 進数の 0 を使わずに浮動小数点数を文字列に適切にフォーマットする方法
64 ビットの double は、整数 +/- 2 53を正確に表すことができます。
この事実を考慮して、すべての型に対して double 型を single 型として使用することにしました。これは、最大の整数が符号なし 32 ビット数であるためです。
しかし今、これらの疑似整数を出力する必要がありますが、問題はそれらが実際の double と混在していることです。
では、これらの double を Java でうまく出力するにはどうすればよいでしょうか?
を試してみString.format("%f", value)ましたが、これは近いですが、小さな値に対して多くの後続ゼロが得られます。
の出力例を次に示します%f
私が欲しいのは：
もちろん、これらのゼロを削除する関数を作成することはできますが、文字列操作によりパフォーマンスが大幅に低下します。他の形式のコードでもっとうまくやれるでしょうか?
Tom E. と Jeremy S. による回答は、両方とも任意に小数点以下 2 桁に丸められるため、受け入れられません。問題を理解した上で回答してください。
String.format(format, args...)はロケールに依存することに注意してください(以下の回答を参照)。
c# - この分割の何が問題になっていますか？
データ型について学ぶことはたくさんあると思います。なぜこれが起こるのか
それはゼロを与えます.. 37,5でなければなりません... :(
c# - double と integer を含む不完全な C# コード
そのコードに差し迫った問題が見られる人はいますか? 変数trとtbは常に 0 に評価されます。
必要に応じて、さらに情報を提供させていただきます。
c# - 文字列を double に変換する
文字列を double 値に変換しようとしていますが、期待どおりの値が返されません...
そのコードは、(20.0 ではなく) 200.0 を double 値として返しています。理由はありますか？
c# - Double.Parse - 国際化の問題
これは私を夢中にさせています。ASP.NET 2.0 WebForm ページに次の文字列があります。
十分に単純です。ここで、文化がスペイン語 ("es-ES") で、文字列を Double に変換しようとすると、次のようになります。
私が期待するのは0.009です。代わりに、私は 9 を取得します。.NET はそれが 1000 区切りであると考えていることを理解しています。変換？
私が行った場合
フォーマットは 0,009 になりました。誰か？
ruby - double を hex に変換する方法は?
ruby float/double を上位バイトと下位バイトを持つ上位エンディアンの 16 進数に変換するにはどうすればよいですか。
例：
で終わる