問題タブ [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
6 に答える
36282 参照

.net - データベースにフロートしますか? .NET で

MSSQLServer に float がある場合、これを .NET で何にマップしますか?

Double に変換できますか、それとも数字を失いますか?

0 投票する
4 に答える
1291 参照

c - double の配列の SIMD?

SIMD が必要な作業を行っており、double の配列に対して操作を行う必要があります。これをサポートしている主流のアーキテクチャはありますか? 浮動小数点演算しか見たことがありません。

前もってありがとう、ステファン

0 投票する
2 に答える
1551 参照

php - PHPExcel: double/float の科学表記法

問題は次のとおりです。クラス testObject のインスタンスを作成し、var に double を入力します。

クラス TestExcel は PhpExcel から拡張され、オブジェクト testObject をコンストラクターに送信すると、var_dump を実行したときに var の科学的表記法が取得されます。

誰でも私たちを助けてくれませんか。私の同僚も私も、phpExcel クラスを拡張することによってインスタンスの内容を変更できる可能性があることを理解していません。

拡張を行わない場合、var_dump は正しい表記を返します。-- 200000 拡張を行うと、科学表記法が得られます -- 2.0E+5

0 投票する
9 に答える
39043 参照

c# - .NET での倍精度の問題

私は単純なC#関数を持っています:

これは、「ステップ」の倍数である「値」以下の大きい数を計算します。ただし、次のテストで見られるように、精度が不足しています。

1 番目と 2 番目のアサートは問題ありませんが、3 番目のアサートは失敗します。これは、結果が小数第 6 位までしか変わらないためです。何故ですか?これを修正する方法はありますか?

更新テストをデバッグすると、値が小数点以下 6 桁目ではなく 8 桁目まで等しいことがわかります。これは、おそらく Math.Round によって不正確さが生じるためです。

注:私のテスト コードでは、"D" (倍精度) を意味するところに "F" 接尾辞 (明示的な浮動小数点定数) を書きました。

0 投票する
20 に答える
413979 参照

c++ - C++ で double (または float) が NaN かどうかを確認する

isnan() 関数はありますか?

PS .: 私はMinGWにいます (それが違いを生む場合)。

これは、最初はing していた に<math.h>は存在しないisnan() from を使用して解決しました。<cmath>#include

0 投票する
7 に答える
9074 参照

objective-c - NSTimeInterval から読み取り可能な NSNumber

NSTimeInterval == ダブル; (例: 169.12345666663)

「ドット」の後に2桁しか残らないように、この倍精度を切り上げるにはどうすればよいですか?
結果が NSNumber であれば非常に良いでしょう。

0 投票する
11 に答える
120190 参照

c# - Double.TryParse または Convert.ToDouble - どちらが高速で安全ですか?

私のアプリケーションは、VSTO を使用して Excel ファイルを読み取り、読み取ったデータをStringDictionary. 数桁の数字 (1000 1000,2 1000,34 - コンマはロシア標準の区切り文字) であるデータのみを追加します。

現在の文字列が適切な数値であるかどうかを確認するにはどうすればよいですか?

また

次の解析アルゴリズムの問​​題StringDictionaryのため、代わりに使用する必要があります。Dictionary<string, double>

私の質問: どちらの方法が速いですか? どちらがより安全ですか?

そして、電話する方が良いですかConvert.ToDouble(object)、それともConvert.ToDouble(string)ですか?

0 投票する
8 に答える
401 参照

optimization - 数値最適化

整数型と浮動小数点型のどちらが最速か疑問に思っていました..
範囲が狭いため、バイトは整数よりも高速であると考えていました。
何人かの人々は私に言った..場合によっては整数はバイトよりも速い.

2 番目の質問:
GPU は世界制覇への道を進んでいます..
だから私は自分自身に尋ねました.Double は Integer よりも「速くなる」ことができます..FPU のおかげで
、専門家はどこにいますか? :)

0 投票する
3 に答える
1373 参照

c - C: double が == -0 であることはどういう意味ですか?

私はgdbを使用してdoubleの値を出力していましたが、驚いたことに-0が出力されました

Cでの-0値の2倍は何を意味しますか?

ちなみに、0と等しいことを確認したところ、trueが返されました。比較を行うために、次のことを行いました

gdbで

0 投票する
2 に答える
1989 参照

c# - Linq: double 値のリスト - 後続値の違い

double値のリストがあります...

1.23、1.24、1.78、1,74...

だから私は後継者との差を計算したい - >追加するだけです(負の値は最初に正でなければなりません)... 4つの値を超えると0,01 +0,53(-)-0,04(-)->にポジティブに…

forループを使えば簡単です... linqで解決する方法はありますか?