問題タブ [double]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c - C: double が == -0 であることはどういう意味ですか?
私はgdbを使用してdoubleの値を出力していましたが、驚いたことに-0が出力されました
Cでの-0値の2倍は何を意味しますか?
ちなみに、0と等しいことを確認したところ、trueが返されました。比較を行うために、次のことを行いました
gdbで
c# - Linq: double 値のリスト - 後続値の違い
double値のリストがあります...
1.23、1.24、1.78、1,74...
だから私は後継者との差を計算したい - >追加するだけです（負の値は最初に正でなければなりません）... 4つの値を超えると0,01 +0,53（-）-0,04（-）->にポジティブに…
forループを使えば簡単です... linqで解決する方法はありますか?
python - Cで作成されたバイナリファイルからdoubleを読み取る最良の方法は何ですか?
AC プログラムは、連続する double をバイナリ ファイルに吐き出します。それらをPythonに読み込みたい。使ってみたstruct.unpack('d',f.read(8))
編集:Cで次を使用して、ランダムな倍精度数を記述しました
エラーは修正されましたが、最初の値を読み取ることができません。すべて 0.000.. の場合は 3.90798504668055 と表示されますが、残りは問題ありません。
c# - 2 つの整数を除算して double を取得するにはどうすればよいですか?
2 つの整数を除算して double を取得するにはどうすればよいですか?
.net - .NETでdouble値を選択した小数点以下の桁数に丸める方法は？
加速度センサーを使用して現在の加速度を計算すると、double値が返されます。
ただし、現在の加速度を値9.8と比較したいと思います。その前に、センサーから受け取った値を丸める必要があるので、質問は次のとおりです。.NETでdouble値を選択した小数点以下の桁数に丸める方法は？
c++ - double の除算時の予期しない精度の低下
パラメータとして 4 つの double を取り、この指定されたパラメータを使用して次の方法で計算された別の double を返す関数 getSlope があります。
問題は、たとえば次のように引数を指定してこの関数を呼び出す場合です。
返される結果は次のとおりです。
これは私の計算では良い結果ではありません。Mathematica を使用して勾配を計算しましたが、同じパラメータの勾配の結果は次のとおりです。
または精度のために桁数を増やします：
プログラムから返された結果は、その後の計算では適切ではありません。さらに、プログラムが 10.845222072678331 から始まる 10.8557 を返す方法がわかりません (これが除算のおおよその結果であると仮定して)。自分の部門で良い結果を得るにはどうすればよいですか?
前もってありがとう、マダリナ
コマンドラインを使用して結果を出力します。
別のプログラム（グラフを計算するプログラム）からパラメーターを読み取ったため、パラメーターが適切ではない可能性があります。グラフからこのパラメーターを読み取った後、値を確認するために表示しましたが、表示されたベクトルは同じではない可能性があります計算値の内部精度..私はそれが本当に奇妙であることを知りません.いくつかの数値エラーが表示されます..)
パラメータを読み取っているグラフが計算されるとき、C++ で記述された数値ライブラリ (テンプレート付き) が使用されます。この計算には OpenGL は使用されません。
ありがとう、マダリナ
java - 不必要な 10 進数の 0 を使わずに浮動小数点数を文字列に適切にフォーマットする方法
64 ビットの double は、整数 +/- 2 53を正確に表すことができます。
この事実を考慮して、すべての型に対して double 型を single 型として使用することにしました。これは、最大の整数が符号なし 32 ビット数であるためです。
しかし今、これらの疑似整数を出力する必要がありますが、問題はそれらが実際の double と混在していることです。
では、これらの double を Java でうまく出力するにはどうすればよいでしょうか?
を試してみString.format("%f", value)ましたが、これは近いですが、小さな値に対して多くの後続ゼロが得られます。
の出力例を次に示します%f
私が欲しいのは：
もちろん、これらのゼロを削除する関数を作成することはできますが、文字列操作によりパフォーマンスが大幅に低下します。他の形式のコードでもっとうまくやれるでしょうか?
Tom E. と Jeremy S. による回答は、両方とも任意に小数点以下 2 桁に丸められるため、受け入れられません。問題を理解した上で回答してください。
String.format(format, args...)はロケールに依存することに注意してください(以下の回答を参照)。
c# - この分割の何が問題になっていますか？
データ型について学ぶことはたくさんあると思います。なぜこれが起こるのか
それはゼロを与えます.. 37,5でなければなりません... :(
c# - double と integer を含む不完全な C# コード
そのコードに差し迫った問題が見られる人はいますか? 変数trとtbは常に 0 に評価されます。
必要に応じて、さらに情報を提供させていただきます。