問題タブ [double-precision]

Matlabの倍精度数を理解しようとしています。この1-3*（4/3-1）がゼロに等しくないのはなぜですか？

このコードの理由を理解したいと思います。

これよりも正確な結果を返します（rc変数の割り当てなし）：

別の関連する質問：なぜn * nより良いのですpow(n,2)か？

一見すると、私の質問は少し奇妙に思えるかもしれません。double を float 値にキャストすることは、私が望むものではありません。それをキャストすると、IEEE-754 で定義された規則に関していくらかの精度が失われ、浮動小数点数の範囲への double 値の実際のマッピングを達成できないためです。それは役に立たない。次の式は機能しますが、大量の入力がある場合は非常にコストがかかります。

まったく同じ計算を高速化するために、ある種のビット演算を介して結果を上記の「mappedVal」に近づけることはできますか?

理論的に等しい 2 つの倍精度数の間の減算では、何桁の違いが予想されますか?

2 つの倍精度配列があります。それらは理論的には同じであると予想されます。どちらもまったく異なる 2 つの方法で計算されているため、両者の間には数値的な違いがあります。要素ごとにチェックしたところ、最大の差は 6.5557799910909154E-008 でした。上司は、倍精度でこれは非常に大きな差だと言っていますが、E-008 のオーダーの差であれば問題ないと思いました。

ありがとう、プラディープ

列に倍精度型の座標があります。小数点以下（小数点以下）の長さ（7でなければなりません）を確認したいのですが。数値には、最大4桁の小数を含めることができます。

私の最初のアイデア：

プログラムを浮動小数点精度から倍精度に変更しています。それにもかかわらず、私はバイナリファイルから浮動小数点数を読み取ることからこのルーチンを開始します。

倍精度の計算を続行し、計算値をファイルに書き込みます。

（amxsとamxrのサイズはdouble、lはint、matlabfileはファイルポインターです）

私の質問：算術演算が倍精度で行われる場合、Cはfloat型の入力パラメーターをどのように処理し、出力の結果をどのように丸めますか？示されているようにそれは簡単ですか、それとも私は何かを大幅に見逃していますか？

編集： ファイル* vel、* matlabfile;

私はデータベースにアクセスできますが、このフィールドの1つは倍精度です。通常、テキストボックス1.71または1,71に設定した場合、データベースのフィールドには1.71が含まれているはずです。

しかし、クエリを実行すると、acces'fieldの値は171!!になります。

私は何が間違っていますか？ありがとう。

Matlablinspace関数と範囲:演算子を使用して等間隔のベクトルを取得していますが、予期せず不等間隔の数値を受け取ります。私のコードは次のとおりです。

ベクトル差分 ( diff) の出力は次のとおりです。

この問題を解決するために、次のコードでカハン総和アプローチを使用しています。

私は今、等間隔のベクトルを取得しています

ただし、このアプローチは「順次」です。効率を改善したり、(CUDA) 並列削減に移植したりするために、Kahan 総和アプローチのベクトル化または並列実装を知っている人はいますか?

前もって感謝します。

Python を使用して倍精度ファイルのバイナリ ファイルを作成するにはどうすればよいですか? 現在、次のことを行っていますが、単精度ファイルが提供されています。