問題タブ [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
1473 参照

c# - double と float が存在するのはなぜですか?

複製

小数点の代わりに倍精度を使用する必要があるのはいつですか?

.. などなど...

精度が高いため、アプリ全体で C# と SQL Server の decimal データ型を使用しています。合計が詳細に合わないなどのイライラする問題は一度もありませんでした.

double と float が不正確であることを考えると、なぜ存在するのか疑問に思っていました

0 投票する
5 に答える
6955 参照

c# - 倍精度

私はコードを持っていますが、それを理解していません。精度が非常に重要なアプリケーションを開発しています。しかし、それは.NETにとって重要ではありません、なぜですか?知らない。

しかし、メッセージボックスには次のように表示されます。3.5助けてください、ありがとう。

0 投票する
5 に答える
8810 参照

.net - TimeSpanからdouble値を生成する方法

相対時間を計算する必要があります

次に、relativeTimeを2倍の​​値に変換します。この値は、秒とミリ秒(seconds.milliseconds)で構成されている必要があります。

時間差からそのような二重の値を生成するための最良の方法は誰か知っていますか?

ありがとう!

0 投票する
2 に答える
900 参照

double - double の不正確な除算 (Visual C++ 2008)

QueryPerformanceCounter から返された時間値をミリ秒単位の double 値に変換するコードがいくつかあります。これは、カウントする方が便利だからです。

関数は次のようになります。

私が最近抱えている問題 (以前はこの問題はなかったと思いますし、コードに変更は加えられていません) は、結果があまり正確ではないということです。結果には小数は含まれませんが、1 ミリ秒よりも精度が低くなります。

デバッガーに式を入力すると、期待どおりの正確な結果が得られます。

double は 64 ビット整数の精度を保持できないことは理解していますが、現時点では、PerformanceCounter は 46 ビットしか必要としませんでした (そして、double は損失なしで 52 ビットを格納できるはずです)。分割を行う別の形式。

ここに私が得たいくつかの結果があります。プログラムはデバッグ モードでコンパイルされ、C++ オプションの浮動小数点モードはデフォルト (正確 (/fp:正確) ) に設定されました。

私のプログラムの結果と比較して、デバッガーのウォッチの精度が異なる理由を誰かが知っていますか?

更新: 変換と除算を行う前に、timerPerformanceCounter.QuadPart から 30270310439445 を差し引いてみましたが、現在はすべての場合で正確であるように見えます。この動作しか見られないのは、コンピューターのアップタイムが 16 日になり、値が以前よりも大きくなったためでしょうか? したがって、大きな数での除算の精度の問題であるように見えますが、ウォッチ ウィンドウで除算が依然として正しい理由はまだ説明されていません。結果に double よりも高精度の型を使用していますか?

0 投票する
10 に答える
261251 参照

java - 精度を落とさずに float を double に変換する

私はプリミティブフロートを持っていて、プリミティブダブルとして必要です。float を double にキャストするだけで、奇妙な追加の精度が得られます。例えば:

ただし、キャストする代わりに float を文字列として出力し、文字列を double として解析すると、必要なものが得られます。

String に行って戻るよりも良い方法はありますか?

0 投票する
4 に答える
40702 参照

c++ - C ++でCStringをdoubleに変換するにはどうすればよいですか?

C ++で aCStringをaに変換するにはどうすればよいですか?double

Unicodeのサポートもいいでしょう。

ありがとう!

0 投票する
4 に答える
804 参照

c++ - エクスポートされたconst変数を参照するconst変数の値が0になるのはなぜですか?

次のことを考慮してください。次のように2つのエクスポートされた定数があります。

これらの定数は、2つの静的(ローカルに表示される)定数を定義するために別の場所で参照されるようになりました。

これにより、次の出力が得られます。

2番目のdoubleが0であるのはなぜですか?.NET 2003 C ++コンパイラ(13.10.3077)を使用しています。

0 投票する
4 に答える
47170 参照

c# - 固定サイズなしで double 配列を定義しますか?

こんにちは、C# 配列に問題があります。そこにいくつかのデータを格納する配列が必要です...私のコードはそれです

しかし、コンパイラは次のように述べています: not defined var どうすれば固定サイズなしで double 配列を定義できますか? どうもありがとう!

0 投票する
3 に答える
6672 参照

python - Python 2.5でPythonフロートを16進数文字列に変換するにはどうすればよいですか? 非稼働ソリューションが添付されています

私が本当に必要としているのは、精度を落とさずに浮動小数点数を C にエクスポートすることです。

私はPythonでこれを行いました:

そしてCIでこれを試してください:

しかし、CI では次のようになります。

7385687666638364672.000000 であり、sqrt(2) ではありません。

私は何が欠けていますか?

ありがとう。

0 投票する
1 に答える
381 参照

arrays - J2ME での double 型配列の使用

Double 型の配列を使用しています。エミュレータでは機能しますが、モバイルではエラーが表示されます。問題は何ですか??