問題タブ [double]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - javaからmatlabに100万の数字を渡しますか?
10.919 秒で実行されるコードが少しあります。プロファイリングすると、10.182 秒が無駄になっていることがわかります
私が使用するときに呼び出される
何ができるでしょうか?外部 API とやり取りするには、Java を使用する必要があります。
編集:次のハックを使用しました:
そして、1.5秒/ 2.2秒になりました
編集:
Javaが配列の長いカンマ区切りの文字列表現を返すようにしてから、
ほぼ耐えられるパフォーマンスを生み出した
.net - データベースにフロートしますか? .NET で
MSSQLServer に float がある場合、これを .NET で何にマップしますか?
Double に変換できますか、それとも数字を失いますか?
c - double の配列の SIMD?
SIMD が必要な作業を行っており、double の配列に対して操作を行う必要があります。これをサポートしている主流のアーキテクチャはありますか? 浮動小数点演算しか見たことがありません。
前もってありがとう、ステファン
php - PHPExcel: double/float の科学表記法
問題は次のとおりです。クラス testObject のインスタンスを作成し、var に double を入力します。
クラス TestExcel は PhpExcel から拡張され、オブジェクト testObject をコンストラクターに送信すると、var_dump を実行したときに var の科学的表記法が取得されます。
誰でも私たちを助けてくれませんか。私の同僚も私も、phpExcel クラスを拡張することによってインスタンスの内容を変更できる可能性があることを理解していません。
拡張を行わない場合、var_dump は正しい表記を返します。-- 200000 拡張を行うと、科学表記法が得られます -- 2.0E+5
c# - .NET での倍精度の問題
私は単純なC#関数を持っています:
これは、「ステップ」の倍数である「値」以下の大きい数を計算します。ただし、次のテストで見られるように、精度が不足しています。
1 番目と 2 番目のアサートは問題ありませんが、3 番目のアサートは失敗します。これは、結果が小数第 6 位までしか変わらないためです。何故ですか?これを修正する方法はありますか?
更新テストをデバッグすると、値が小数点以下 6 桁目ではなく 8 桁目まで等しいことがわかります。これは、おそらく Math.Round によって不正確さが生じるためです。
注:私のテスト コードでは、"D" (倍精度) を意味するところに "F" 接尾辞 (明示的な浮動小数点定数) を書きました。
c++ - C++ で double (または float) が NaN かどうかを確認する
isnan() 関数はありますか?
PS .: 私はMinGWにいます (それが違いを生む場合)。
これは、最初はing していた に<math.h>
は存在しないisnan() from を使用して解決しました。<cmath>
#include
objective-c - NSTimeInterval から読み取り可能な NSNumber
NSTimeInterval == ダブル; (例: 169.12345666663)
「ドット」の後に2桁しか残らないように、この倍精度を切り上げるにはどうすればよいですか?
結果が NSNumber であれば非常に良いでしょう。
c# - Double.TryParse または Convert.ToDouble - どちらが高速で安全ですか?
私のアプリケーションは、VSTO を使用して Excel ファイルを読み取り、読み取ったデータをStringDictionary
. 数桁の数字 (1000 1000,2 1000,34 - コンマはロシア標準の区切り文字) であるデータのみを追加します。
現在の文字列が適切な数値であるかどうかを確認するにはどうすればよいですか?
また
次の解析アルゴリズムの問題StringDictionary
のため、代わりに使用する必要があります。Dictionary<string, double>
私の質問: どちらの方法が速いですか? どちらがより安全ですか?
そして、電話する方が良いですかConvert.ToDouble(object)
、それともConvert.ToDouble(string)
ですか?
optimization - 数値最適化
整数型と浮動小数点型のどちらが最速か疑問に思っていました..
範囲が狭いため、バイトは整数よりも高速であると考えていました。
何人かの人々は私に言った..場合によっては整数はバイトよりも速い.
2 番目の質問:
GPU は世界制覇への道を進んでいます..
だから私は自分自身に尋ねました.Double は Integer よりも「速くなる」ことができます..FPU のおかげで
、専門家はどこにいますか? :)