問題タブ [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
914 参照

c# - 文字列を double に変換する

文字列を double 値に変換しようとしていますが、期待どおりの値が返されません...

そのコードは、(20.0 ではなく) 200.0 を double 値として返しています。理由はありますか?

0 投票する
6 に答える
21080 参照

c# - Double.Parse - 国際化の問題

これは私を夢中にさせています。ASP.NET 2.0 WebForm ページに次の文字列があります。

十分に単純です。ここで、文化がスペイン語 ("es-ES") で、文字列を Double に変換しようとすると、次のようになります。

私が期待するのは0.009です。代わりに、私は 9 を取得します。.NET はそれが 1000 区切りであると考えていることを理解しています。変換?

私が行った場合

フォーマットは 0,009 になりました。誰か?

0 投票する
3 に答える
2900 参照

ruby - double を hex に変換する方法は?

ruby float/double を上位バイトと下位バイトを持つ上位エンディアンの 16 進数に変換するにはどうすればよいですか。

例:

で終わる

0 投票する
4 に答える
1633 参照

c - 対応するロングからデルタで逸脱する最初のダブルは何ですか?

「同じ値」の長さだけデルタ、たとえば1e-8だけずれている、0dから上への最初のdoubleを知りたいです。私はここで失敗しています。念のため、私は通常管理言語を使用していますが、これをCで実行しようとしています。助けてください。

問題は、diがiをdoubleにキャストするため、d == iであり、その差は常に0であるということだと思います。他にこれを正しく検出するにはどうすればよいですか?文字列を比較するよりも楽しいCキャストをお勧めします。永遠に取る。

答え:私たちが期待した通りです。2 ^ 53 + 1 = 9007199254740993は、標準のC / UNIX/POSIXツールによる最初の相違点です。彼のプログラムを提供してくれたpaxに感謝します。そして、私は数学が再び勝つと思います。

0 投票する
3 に答える
29444 参照

c# - C DLLを使用したC#での配列とポインターの使用

私はC#を初めて使用します(先週学習を開始したばかりです)。

次の関数を使用してCで記述されたカスタムDLLがあります。

私が探しているのは、配列'test'用のC#からのポインターを用意することです。

したがって、DLL関数でtest [0] = 450.60、test [1] = 512.99などがある場合、C#プログラムでそれを使用できるようにしたいと思います。

C#プログラムでは、次のようなものがあります。

DLLの「test_function」関数では、次のものを使用しました。

Within the DLL everything was OK (I used a message box within the DLL to check the values were being applied). Back in the C# program 'results[0]' appears to be fine and I can get values from it, but 'results[1]' gives me an index out of bounds error. I know this because if I omit '+ (double)results[1]' I receive no error. Also, if I make no attempt within the DLL to modify 'test[1]' it retains the original value from C# (in my example 0.0).

Obviously I am not doing something right but this is the closest I have been able to get to having it work at all. Everything else I have tried fails miserably.

Any help would be greatly appreciated.

0 投票する
8 に答える
17264 参照

c# - 「1.79769313486232E+308」をOverflowExceptionなしでdoubleに変換しますか?

この文字列「1.79769313486232E+308」があり、それを.NET数値(double?)に変換しようとしていますが、以下の例外が発生しています。私はを使用してConvert.ToDouble()います。この変換を行うための適切な方法は何ですか?

OverflowException:値がDoubleに対して大きすぎるか小さすぎる

0 投票する
6 に答える
6101 参照

c# - C#のダブル(C++)とは?

C#のdouble型(C++)とは?

最初はそう思ったUInt32が、そうではない。C#で宣言する方法は?

0 投票する
6 に答える
61658 参照

java - Java: double と float

Bruce Eckel の別の演習では、私が書いたコードはメソッドを取り、別のクラスの値を変更します。これが私のコードです:

「精度が失われる可能性があります」というエラーがスローされます。

doubles もs ではないfloatでしょうか?

0 投票する
9 に答える
2371 参照

c - 配列内の要素が多すぎます!

これが初心者の質問である場合は申し訳ありません:(。

Cコードの一部。

エラーを出す必要がありますよね?いいえ!正常に動作します!しかし、それはなぜですか?-最初の行で-doubleサイズ(11)を超える配列が定義されているようです。後でarray[5から10]にアクセスすることもできます。そして、それは私を混乱させています。array[4以下]を定義すると動作を停止します...

前もって感謝します。

0 投票する
5 に答える
821 参照

java - DecimalFormat と double

DecimalFormatは、Double.toString()表現を解析します (科学的および財務的な形式である可能性があります)。

double を String に直接変換する代わりに、Sun がこのアプローチを選択したのはなぜですか?

PS: より具体的に。Double自体の内部表現をフォーマットするのではなく、Doubleをフォーマットするために、DecimalFormatが内部的にDouble.toString()を使用するのはなぜですか?