問題タブ [floating-point-precision]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
1113 参照

c++ - odeint: 複雑で高精度の型

C ++ odeintソルバーを複素数のベクトルで使用し、可能であればより高い精度(boost.multiprecisionまたはlibquadmath __float128、__complex128と言います)で使用する最小の例を作成する際に、誰かが私に助けてくれますか?

複雑なスカラーを使用したドキュメントの例がありますhttp://headmyshoulder.github.com/odeint-v2/doc/boost_numeric_odeint/tutorial/special_topics.html

そして、そこには次のことが記載されています:

私は次のような変更でこれを修正しようとしましたtypedef vector<complex<double>> state_type:

}

ただし、これにより大量のエラーが発生します。

複雑な ODE を使用した最小限の作業例を誰か教えてもらえますか? さらに、高精度のデータ型をより適切に実装できます。odeint は非常に任意の状態型をサポートできるように見えますが、それらを機能させるのに苦労しています。

更新されたコード

エラー ログオン コンパイル:

0 投票する
4 に答える
1404 参照

c - float - c データ型

これを実行すると、「等しい」と表示されます。しかし、a の値を 2000000 (0 を 1 つ減らす) に変更すると、答えはノーです。なぜ ?

0 投票する
2 に答える
175 参照

php - 数値を科学的な形式で表示しないようにする方法は?

浮動小数点数の配列をファイルに書き込みたい

しかし、test.txtには、

浮動小数点数を科学的/指数形式で表示したくありません。元の形式を維持することを願っています。さらに、12430120340 のような大きな整数もあるため、0.000123293304 のような浮動小数点数に特別な形式を使用すると、おそらく大きな整数には適していません。おそらくそれらを文字列に変換することをお勧めしますか? しかし、どのように?

0 投票する
4 に答える
116814 参照

python - Python:フロートのリストで最小項目のインデックスを見つける

float の Python リストで最小項目のインデックスを見つけるにはどうすればよいですか? それらが整数の場合、私は単純に次のようにします。

ただし、フロートのリストを使用すると、次のエラーが発生します。これは、フロートの等価性の比較がかなり不安定であるためだと思います。

ここで、リストをスクロールして各項目を比較し、< (min + 0.0000000000001) か > (min - 0.0000000000001) かどうかを確認するだけでよいことはわかっていますが、これはちょっと厄介です。フロートのリストで最小のアイテムのインデックスを見つけるためのよりエレガントな (できれば組み込みの) 方法はありますか?

0 投票する
4 に答える
2076 参照

c++ - float または double に 2^31 を割り当てる

整数値に 2^31 を掛ける必要があります。私はそれをグーグルで調べましたが、倍精度の範囲は 2.23e-308 <= |X| のようです。<= 1.79e308 (64 ビットを使用する場合)、および 1.18e-38 <= |X| の間の浮動小数点数 <= 3.40e38。

それは私が必要とする以上のものです。しかし、うまくいきません。

ヘッダー ファイルに次の定数値があります。

そして、もし私がするなら:

この場合、ダミーの値は 11 です。

問題がそのような定数値を割り当てているかどうかはわかりませんが、精度を失うことなくそれを書く方法が他にわかりません。

何か助けはありますか?

編集:申し訳ありませんが、ばかげた質問です。私の MatLab のバックグラウンドは私を裏切り、^ は C++ のべき乗ではないことを忘れていました。私は閉鎖に投票しました。

0 投票する
3 に答える
2894 参照

java - Java-1回の二重加算/減算で最大の精度低下

doubleJavaで2つの値(加算/減算)を処理するときに最大の精度損失がどのようになるかを大まかに確立することは可能ですか?おそらく最悪のシナリオは、2つの数値を正確に表すことができず、次にそれらに対して演算が実行され、その結果、値も正確に表すことができない場合です。

0 投票する
4 に答える
2178 参照

c - Cでの数値精度エラー

これが私が書いたコードです:

数値1441.1441を入力すると、14411441ではなく14411440になります。これは、入力数値に10000を掛けた後の正しい結果です。誰かがこの問題を理解するのを手伝ってくれますか?

0 投票する
1 に答える
5113 参照

matlab - ヘッダーと浮動小数点数を含む Matlab インポート CSV ファイル

私の問題は、CSV ファイル内の数値を元の数値と同じ精度で matlab 変数にインポートすることです。これが私のデータの例です(ファイルの上部に1つのヘッダーがあるX行が存在する可能性があります):

インポート ウィザードと次のコードを使用して、データを正常にインポートしました。しかし問題は、数値のインポートが倍精度のみであり、十分ではないことです。

および matlab インポート ウィザードの結果:

私はMatlab R2011aを使用しています

0 投票する
2 に答える
11196 参照

mysql - 指定された精度で FLOAT を選択します

値を FLOATS として保存したいのですが、値を取得するときに、ユーザーは小数点以下の桁数を指定 (および実行時に変更) できます。

どういうわけかそれを渡すことができますSELECTか、それともアプリケーションでそれを行う必要がありますか?

0 投票する
2 に答える
1369 参照

python - Python の浮動小数点精度

私はPythonでこの関数を書きました:

この関数を Wolphramapha と Maple で計算すると 189.797 になりますが、Pythonでは 184.91089913になります 。私のプログラムの問題は何ですか?