問題タブ [double]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
47170 参照

c# - 固定サイズなしで double 配列を定義しますか?

こんにちは、C# 配列に問題があります。そこにいくつかのデータを格納する配列が必要です...私のコードはそれです

しかし、コンパイラは次のように述べています: not defined var どうすれば固定サイズなしで double 配列を定義できますか? どうもありがとう!

0 投票する
3 に答える
6672 参照

python - Python 2.5でPythonフロートを16進数文字列に変換するにはどうすればよいですか? 非稼働ソリューションが添付されています

私が本当に必要としているのは、精度を落とさずに浮動小数点数を C にエクスポートすることです。

私はPythonでこれを行いました:

そしてCIでこれを試してください:

しかし、CI では次のようになります。

7385687666638364672.000000 であり、sqrt(2) ではありません。

私は何が欠けていますか?

ありがとう。

0 投票する
1 に答える
381 参照

arrays - J2ME での double 型配列の使用

Double 型の配列を使用しています。エミュレータでは機能しますが、モバイルではエラーが表示されます。問題は何ですか??

0 投票する
3 に答える
66348 参照

c# - 32 ビットおよび 64 ビット OS でのダブル バイト サイズ

アプリを 32 ビット環境と 64 ビット環境で実行すると、 2 倍のサイズに違いはありますか?

私が間違っていなければ、32 ビット環境の double は 0 の後に 16 桁を占めますが、64 ビット環境の double は 32 ビットを占めますよね?

0 投票する
5 に答える
30525 参照

java - JDBC で null の可能性のある double 値を resultSet から読み取るにはどうすればよいですか?

データベースに型指定された列がありdouble、JDBC ResultSet を使用して値を読み取りたいのですが、null である可能性があります。これを行う最善の方法は何ですか?どれもあまり良いとは思えない 3 つのオプションを考えることができます。

オプション 1: 例外処理が冗長で臭いので悪い

オプション 2: フェッチが 2 回なので悪い

オプション 3: SQL 変換ではなく Java が原因で悪い

どちらの方法が優れているか、または別の優れた方法について何か提案はありますか? また、「Hibernate を使用する」とは言わないでください。ここでは JDBC コードのみに制限されています。

0 投票する
5 に答える
161672 参照

c++ - doubleを文字列C++に変換しますか?

重複の可能性:
C++ で double を文字列に変換するにはどうすればよいですか?

文字列と double を結合したいのですが、g++ がこのエラーをスローしています:

main.cpp: 関数 'int main()' 内:
main.cpp:40: エラー: タイプ 'const char [2]' および 'double' からバイナリ 'operator+' への無効なオペランド</p>

エラーをスローしているコード行は次のとおりです。

storedCorrect[] は文字列配列で、c1 と c2 は両方とも double です。プログラムを正しくコンパイルできるように、c1 と c2 を文字列に変換する方法はありますか?

0 投票する
4 に答える
3054 参照

c# - 大きな数値の四捨五入 [c#]

ここで奇妙な問題が発生しています。列に巨大な値が格納されているデータベース テーブルがあります。私のアプリケーション (C#) は、この値を読み取り、double型に保持しています。このアプリケーションは、同じ値を別のテーブルに挿入します。注:最初のテーブルから読み取った値に対して計算/処理を行っていません。2 番目のテーブルを更新するために保持されます。

ここでの問題は、2 番目のテーブルが最初のテーブルとはわずかに異なる値を取得していることです。double型にしておくと数字が四捨五入されているようです。

値の例を次に示します。

元の値: 18014398509481984

新しいテーブルにコピーされた値: 18014398509482000

値は異なって見えますが、実際には両方とも同じです。検索語として18014398509481984 - 18014398509482000を使用して Google 検索を行ったところ、結果0が返されました。これは、両方が同じであることを意味します。

質問:

1 - 両方が同じ場合、2 番目の値が異なって見えるのはなぜですか? 1984 年が2000年に変わったことがわかります。

2 - コンバージョンが発生する理由

3 - この種の変換を回避するにはどうすればよいですか?

どんな助けでも素晴らしいでしょう!

0 投票する
9 に答える
12207 参照

c++ - C / C ++は、特定の精度で小数を効率的に切り上げます

私は以下を最適化しようとしています。以下のコードはこれを行います:

a = 0.775 で精度 2 dp が必要な場合、a => 0.78

基本的に、最後の桁が 5 の場合は次の桁を切り上げますが、そうでない場合は切り上げません。

私の問題は、値が 0.44999999343.... として保存され、setprecision が 0.4 に丸められるため、0.45 が小数点 1 で 0.5 に丸められないことでした。

そのため、setprecision をより高くする必要がsetprecision(p+10)あり、実際に 5 で終わる場合は、正しく切り上げるために少量を追加します。

完了すると、a と文字列 b を比較し、結果を返します。問題は、この関数が数十億回呼び出され、プログラムがクロールすることです。これを書き換え/最適化する方法と、コード内のどの機能がマシンに非常に重いかについて、より良いアイデアはありますか?

0 投票する
3 に答える
17433 参照

java - Java で BufferedWriter を使用して double 出力をフォーマットする

私は課題に取り組んでおり、コードを完成させましたが、出力の正しいフォーマットに問題があります。テキスト ファイルを取得し、価格に基づいて製品を分離し、データを 2 つの個別のファイルに追加します。ドル記号なしで金額 (0.00) として表示されるように、BufferedWriter で double の形式を正しくするにはどうすればよいですか? 現在、(0.0) として出力されます。ご協力いただきありがとうございます。

私のコード: