問題タブ [double]

私はいくつかの非常に単純な計算を行っており、結果を MS SQL2008 DB に保存しています。

1 <-> 5 のバイト値であるいくつかの数値を平均しています。おそらく小数点以下2桁だけを記録したいと思います。小数第 2 位の丸めは気にしません (たとえば、1.155 == 1.5 または 1.6 .. 私はあまり段階的ではありません)。

だから..平均結果をfloat、decimal、またはdoubleとして保存する必要がありますか?

LINQ が返すものを確認すると、3 つの値すべてを返すことができます。

最後に、関連する SQL データ型フィールドは何でしょう。

乾杯！

DoubleをVB.NETで最も近い整数に切り捨てるにはどうすればよいですか？

挿入、検索、および削除機能を備えたリンク リストを作成しました。そのためのイテレータも作成しました。さて、私がこれをするとします：

そしてほら、それは機能します（ノードの要素の値、この場合は20を出力します）。今、私がこれを行うと：

イテレータが null を指しているため、そうではありません。検索機能の実装は次のとおりです。

上記のコードの一部を次のように変更すると、次のようになります。

リストに数字が出力されているのがわかります。ある時点で「20.1 20.1」と出力されます (たとえば)。では、どうすればこれを修正できますか？関数は正しいように見えますが、Java が数値を正しく比較していないように見えます。

EDIT：ところで、BigDecimalも同じ種類の問題を私に与えました。

EDIT 2: equals() は機能しましたが、他に何か問題があることに気づきませんでした。ごめん。

double値をゼロと比較するときは注意する必要がありますか？

Linux の C++ アプリで double 値の無限大をチェックする必要があります。ほとんどのプラットフォームでは、これは と比較して機能しstd::numeric_limits<double>::infinity()ます。ただし、一部の古いプラットフォーム (gcc 3.2.2 を使用する RedHat 9 など) では、これは利用できず、std::numeric_limits<double>::has_infinityそこでは誤りです。

これらのプラットフォームにはどのような回避策をお勧めしますか?

g77 (GNU Fortran 77 コンパイラ) に "-fdefault-real-8" gfortran (GNU Fortran 95 コンパイラ) オプションのアナログはありますか? このオプションは、デフォルトの実数型を 8 バイト幅の型に設定します。

現在、単精度演算が精度を制限しているコードがあるため、倍精度が必要です。(FPUフラグである倍精度にしたいのは中間値だけではありません。すべてを倍精度にしたいのです。)他のアプローチがあることを知っています(gfortranを使用する、他のコンパイラを使用する、またはすべての REAL を DOUBLE PRECISION に変更します) が、私の状況には理想的ではありません。

では、g77 でデフォルトの実数型を倍精度、つまり 8 バイト幅に設定する方法はありますか?

数字を含む文字列を double に変換する方法を知りたいです。

Objective-C と iPhone の開発は初めてで、浮動小数点値を NSMutableArray に格納しようとしていますが、そうすると、「addObject の引数 1 の型に互換性がありません」というエラーが表示されます。私は何を間違っていますか？数学計算を実行できる double の配列を作成しようとしています。

私がやろうとしているのは、double を 16 進文字列に変換してから double に戻すことです。

次のコードは、倍精度文字列から 16 進数文字列への変換を行います。

これはうまくいくようですが、結果の文字列を double に変換する方法がわかりません。お知らせ下さい ：）

10.919 秒で実行されるコードが少しあります。プロファイリングすると、10.182 秒が無駄になっていることがわかります

私が使用するときに呼び出される

何ができるでしょうか？外部 API とやり取りするには、Java を使用する必要があります。


編集:次のハックを使用しました:

そして、1.5秒/ 2.2秒になりました

編集：

Javaが配列の長いカンマ区切りの文字列表現を返すようにしてから、

ほぼ耐えられるパフォーマンスを生み出した