問題タブ [double-precision]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
7 に答える
927 参照

java - 二重変数が整数値を持っているかどうかを判断するにはどうすればよいですか?

私はJavaで二次方程式の可能な整数根を見つけようとしています。

ここに画像の説明を入力してください

これが私のコードのスニペットです:

a = 2b = -1およびの場合c = -40755、ルートの1つは143.0143.0エコーするとコンソールに出力されるため、このようなdouble値のみに関心があります143.00001)です。私の質問は、ルートが整数値であることを確認するにはどうすればよいですか?その場合root1 = 143.0、egroot1 == 143はtrueを返す必要があります。

試しroot1 == Math.floor(root1)ましたが、うまくいきませんでした。

0 投票する
2 に答える
461 参照

math - 2 ^ 53まで正確な倍精度浮動小数点を使用して整数乗算が実装されていますか?

すべての行列値が整数である行列乗算を計算しているため、質問します。

LAPACK を使用して、正しいコードを高速に取得したいと考えています。2^53sとして格納されている2 つの大きな整数 (積が より小さい)doubleを乗算するとdouble、正確な整数の結果を含む が得られますか?

0 投票する
1 に答える
2870 参照

cuda - 倍精度の CUFFT

CUDAs FFT ライブラリでいくつかの問題が発生しています。

入力を cuDoubleComplex として宣言しましたが、コンパイラは、この型が cufftComplex 型のパラメーターと互換性がないというエラーを返します。インターネットで検索したところ、cufft.h という行が含まれているファイルが見つかりましたtypedef cuComplex cufftComplex;。私の問題は、ライブラリ cuComplex.h では、cuComplex が単一の浮動小数点精度 ( typedef cuFloatComplex cuComplex;) を持っていることは明らかですが、倍精度が必要なことです。

これは可能ですか?

特に、私は以下を取得します。

この行で:

0 投票する
1 に答える
3729 参照

matlab - MATLAB vpa() は、指数を持つ式の可変小数点数を計算しませんか?

vpa() を使用して、指数の有理式の変数ポイント数を計算しようとしています:

上記は問題を示しています。ans1 は、式のデフォルト出力を示しています。ans2 は、vpa() が式の可変点数を計算していないことを示しています。ans 2_5 は、何を計算すべきかを示しています。私が探している結果は ですx^0.182

ans3 は、関数が乗算の場合に vpa() が期待される結果を生成することを示しているだけです。

指数が vpa によって評価されるように要求するにはどうすればよいですか?

[編集]

多分私はこれをもっと明確にすることができます。本当に必要なのは、指数式の指数へのアクセサーまたはインデックスだけです。だから私の 表現y = x^axa

これは可能ですか?

0 投票する
2 に答える
962 参照

c++ - Visual Express 2010 倍精度変数

私は c++ でコーディングを始めたばかりですが、MATLAB と MySql の経験はかなりあります。いくつかの複合数を計算しようとしているため、精度が重要です。倍数を使用してこれを実行しようとしましたが、何らかの理由で有効数字 7 桁 (float と同じ) の精度しか得られませんでした。long double を使用して計算を試みましたが、それでも 7 sf の精度しか得られません。

double を正しく初期化していませんか? 私はそれらが標準ライブラリの一部だと思った?? どんな助けでも大歓迎です。以下のコードは、計算に使用されるコードの主要部分を示しています (残りは主にデータのロードまたはデバッグです)。


アップデート

コードのサンプルを次に示します (マイナスのデータ読み取り)。最初の 5 つの値を入力しました。計算は ( EXPECTED OUTPUT ) Excel で計算され、まったく同じ入力を使用する必要があります。

以下のコードが与えるもの ( ACTUAL OUTPUT ):

コード:

ありがとうございます。


更新 2:

予想結果と実際の結果の両方で、複利計算に同じ式が使用されます。

複利合計 = ((1+(日次レート/10000))*(1+(前回の複利合計/10000)))

1 日の料金は次のとおりです。

1 日目: 0 2 日目: -1.09526 3 日目: 5.46038 4 日目: -1.61801 5 日目: 0.283089

0 投票する
1 に答える
1425 参照

grails - ダブルタイプをグレイルに正しく保存するにはどうすればよいですか?

基本的に、保存するドメインは浮動小数点を尊重せず、別の形式になります

私は次のドメインを持っています

見る:

コントローラ:

Location save()をリクエストするには

保存後、パラメータはparams.latitude=29.089177およびparams.longitude=-110.961227のように到着し、値はlocationInstance.latitude=29089177およびlocationInstance.longitude=-110961227のようにデータベースに保存されます。

ビューに表示されるのは、緯度=2.9089177E7および経度=-1.10961227E8のように表示されます。

何が問題になるでしょう、私はテーマクラスを持つ別のプロジェクトを持っていて、正しく実行されます。プロパティの名前とタイプをfloatに変更して、解決しないようにしてください

ありがとう!

0 投票する
3 に答える
3247 参照

c++ - コンパイル時にfloatと倍精度を切り替える

コンパイル時にfloatと倍精度を切り替えたい場合は、どこを見ればよいですか。たとえば、ユーザーが倍精度ではなくすべてを浮動小数点数にしたい場合、この柔軟性をどのように維持できますか?言い換えると、条件付きで浮動小数点または倍精度のいずれかになり得る変数をどのように定義する必要がありますか?

0 投票する
2 に答える
5455 参照

c++ - SetPrecisionを誤って使用する

次の2つの関数では、*コメントのある行に焦点を当てています。cout <<ステートメントが実行されると、小数点以下の桁数は表示されません。3021680380/10000000は302.1680ではなく302になります。

何か案は?

0 投票する
2 に答える
309 参照

c++ - Matlab と c++ の行列積: 同じ入力、異なる出力

x86コンピューターのubuntu 12.04とg ++ 4.6.3でMatlab 2010を使用しています。これは私が生産と入力を行う方法です:

これは の定義ですoperator*:

奇妙なことに、Matlab 内で同じ値を持つ同じ行列を作成すると、異なる結果が得られます。Matlab コードは次のとおりです。

一方、aaa は c++ 実装の出力です。エラーが小さいことはわかっていますが、問題の原因を知りたいです。多くのコードをデバッグしたいのですが、適切なデバッグのために違いがゼロである必要があります。

0 投票する
1 に答える
138 参照

c - printfで指定された%aの値を変換するにはどうすればよいですか?

0x1.921fb82c2bd7fp+1人間が読める形式のプレゼンテーションの価値は何ですか?printfを使用してこの値を取得し%aました。