問題タブ [double]

さまざまな理由から、コードでは double ではなく float を使用する必要があります。コードでリテラルを使用するには、次のように記述する必要があります。

または、コンパイラは「0.75」だけを double として扱うため、barf を実行します。毎回「F」を追加することなく、「0.75」のようなリテラルをフロートとして扱うように、コードに入れたり Visual Studio に設定したりできるものはありますか?

非常に大きな数で計算（除算または乗算）を行う必要があります。現在、私はDoubleを使用しており、値の丸めの問題を取得しています。Decimalタイプを使用して、C＃で同じ計算を正確に行うことができます。VB6.0で正確な計算を行う方法を探していますが、VB6.0でDecimal型が見つかりませんでした。

大きな値で浮動小数点の四捨五入の問題を起こさずに算術計算を行うために使用されるデータ型は何ですか？

ここで（double変数）これが私のコードであるオブジェクトを読み取りたいときに問題があります：

BranchBuildingテーブル：

Adrresse Embbedable：

これは私のクエリマネージャーです：

これはクラスメーカーです：

地理座標でbuildingBranchエンティティをロードしたいのですが、Queryを設定するとnullに戻ります。

しかし、以下のクエリを使用すると、正しい結果が返されます（テーブルにlat=0およびlong=0でブランチビルディングを挿入します）

私の問題がどこにあるか知っている人はいますか？

C# で double を使用している人をよく見かけます。double が精度を失うことがあることをどこかで読んだことは知っています。私の質問は、いつ double を使用し、いつ decimal 型を使用する必要があるかということです。お金の計算に適した型は? (つまり、1 億ドル以上)

文字列を double に変換できるかどうかを確認する VB の効率的な方法はありますか?

現在、文字列を double に変換してから、例外がスローされるかどうかを確認することで、これを行っています。しかし、これは私のアプリケーションを遅くしているようです。

私は次のコードを使用していますが、いくつかの不可解な状況では、追加の結果が想定どおりではありません。

アプリケーション内でいくつかのネイティブ DLL を使用していますが、一部の DLL がこの「誤算」の原因であると思われますが、どの DLL かを特定する必要があります。私の問題の根本を理解する方法を誰かに教えてもらえますか?

C# で記述されたプログラムがあり、一部はネイティブ C/C++ で記述されています。double を使用していくつかの値を計算すると、精度が小さすぎるために結果が間違っていることがあります。調査の結果、誰かが浮動小数点の精度を 24 ビットに設定していることがわかりました。(_fpreset または _controlfp を使用して) 精度を少なくとも 53 ビットにリセットすると、私のコードは正常に動作しますが、最初に精度を 24 ビットに設定した責任者を特定する必要があります。

これを達成できるアイデアはありますか？

現在、私は 12.53467345 のような Double を持っています..今、ドットの後の数字を削除したいので、 "12" だけを取得したいのですが、どうすればこれを行うことができますか? TryParse だと思いますが、その方法がよくわかりません。

ありがとう！

マネージ C++ で double 値を解析しているときに奇妙な問題が発生します。私が何か間違ったことをしているのかもしれません。私がする時：

結果の出力は0.006000000000001. なぜ1を追加するのですか？

また、値を小数点以下 5 桁に丸めると、失敗します。私がやっている：

しかしresult2、常に0.006000000000001です。私は何を間違っていますか？

高精度の科学計算を行っています。さまざまな効果の最適な表現を探す中で、次に高い (または低い) 倍精度数を取得したい理由を考え続けています。基本的に、私がやりたいことは、double の内部表現の最下位ビットに 1 を追加することです。

問題は、IEEE 形式が完全に統一されていないことです。低レベルのコードを使用し、実際に最下位ビットに 1 を追加すると、結果の形式は次に利用可能な double ではない可能性があります。たとえば、PositiveInfinity や NaN などの特殊なケースの数値である可能性があります。私が理解しているとは言いませんが、「通常の」パターンとは異なる特定のビットパターンを持っているように見えるサブノーマル値もあります。

「イプシロン」値が利用可能ですが、その定義を理解したことがありません。double 値は等間隔ではないため、1 つの値を double に加算して次に高い値にすることはできません。

なぜIEEEが次の高い値または低い値を取得する関数を指定していないのか、私には本当にわかりません。それを必要としているのは私だけではありません。

次の値を取得する方法はありますか (小さな値を追加しようとするある種のループなしで)。