問題タブ [double]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - 固定サイズなしで double 配列を定義しますか?
こんにちは、C# 配列に問題があります。そこにいくつかのデータを格納する配列が必要です...私のコードはそれです
しかし、コンパイラは次のように述べています: not defined var どうすれば固定サイズなしで double 配列を定義できますか? どうもありがとう!
python - Python 2.5でPythonフロートを16進数文字列に変換するにはどうすればよいですか? 非稼働ソリューションが添付されています
私が本当に必要としているのは、精度を落とさずに浮動小数点数を C にエクスポートすることです。
私はPythonでこれを行いました:
そしてCIでこれを試してください:
しかし、CI では次のようになります。
7385687666638364672.000000 であり、sqrt(2) ではありません。
私は何が欠けていますか?
ありがとう。
arrays - J2ME での double 型配列の使用
Double 型の配列を使用しています。エミュレータでは機能しますが、モバイルではエラーが表示されます。問題は何ですか??
c# - 32 ビットおよび 64 ビット OS でのダブル バイト サイズ
アプリを 32 ビット環境と 64 ビット環境で実行すると、 2 倍のサイズに違いはありますか?
私が間違っていなければ、32 ビット環境の double は 0 の後に 16 桁を占めますが、64 ビット環境の double は 32 ビットを占めますよね?
java - JDBC で null の可能性のある double 値を resultSet から読み取るにはどうすればよいですか?
データベースに型指定された列がありdouble
、JDBC ResultSet を使用して値を読み取りたいのですが、null である可能性があります。これを行う最善の方法は何ですか?どれもあまり良いとは思えない 3 つのオプションを考えることができます。
オプション 1: 例外処理が冗長で臭いので悪い
オプション 2: フェッチが 2 回なので悪い
オプション 3: SQL 変換ではなく Java が原因で悪い
どちらの方法が優れているか、または別の優れた方法について何か提案はありますか? また、「Hibernate を使用する」とは言わないでください。ここでは JDBC コードのみに制限されています。
c++ - doubleを文字列C++に変換しますか?
文字列と double を結合したいのですが、g++ がこのエラーをスローしています:
main.cpp: 関数 'int main()' 内:
main.cpp:40: エラー: タイプ 'const char [2]' および 'double' からバイナリ 'operator+' への無効なオペランド</p>
エラーをスローしているコード行は次のとおりです。
storedCorrect[] は文字列配列で、c1 と c2 は両方とも double です。プログラムを正しくコンパイルできるように、c1 と c2 を文字列に変換する方法はありますか?
c# - 大きな数値の四捨五入 [c#]
ここで奇妙な問題が発生しています。列に巨大な値が格納されているデータベース テーブルがあります。私のアプリケーション (C#) は、この値を読み取り、double型に保持しています。このアプリケーションは、同じ値を別のテーブルに挿入します。注:最初のテーブルから読み取った値に対して計算/処理を行っていません。2 番目のテーブルを更新するために保持されます。
ここでの問題は、2 番目のテーブルが最初のテーブルとはわずかに異なる値を取得していることです。double型にしておくと数字が四捨五入されているようです。
値の例を次に示します。
元の値: 18014398509481984
新しいテーブルにコピーされた値: 18014398509482000
値は異なって見えますが、実際には両方とも同じです。検索語として18014398509481984 - 18014398509482000を使用して Google 検索を行ったところ、結果0が返されました。これは、両方が同じであることを意味します。
質問:
1 - 両方が同じ場合、2 番目の値が異なって見えるのはなぜですか? 1984 年が2000年に変わったことがわかります。
2 - コンバージョンが発生する理由
3 - この種の変換を回避するにはどうすればよいですか?
どんな助けでも素晴らしいでしょう!
c++ - C / C ++は、特定の精度で小数を効率的に切り上げます
私は以下を最適化しようとしています。以下のコードはこれを行います:
a = 0.775 で精度 2 dp が必要な場合、a => 0.78
基本的に、最後の桁が 5 の場合は次の桁を切り上げますが、そうでない場合は切り上げません。
私の問題は、値が 0.44999999343.... として保存され、setprecision が 0.4 に丸められるため、0.45 が小数点 1 で 0.5 に丸められないことでした。
そのため、setprecision をより高くする必要がsetprecision(p+10)
あり、実際に 5 で終わる場合は、正しく切り上げるために少量を追加します。
完了すると、a と文字列 b を比較し、結果を返します。問題は、この関数が数十億回呼び出され、プログラムがクロールすることです。これを書き換え/最適化する方法と、コード内のどの機能がマシンに非常に重いかについて、より良いアイデアはありますか?
java - Java で BufferedWriter を使用して double 出力をフォーマットする
私は課題に取り組んでおり、コードを完成させましたが、出力の正しいフォーマットに問題があります。テキスト ファイルを取得し、価格に基づいて製品を分離し、データを 2 つの個別のファイルに追加します。ドル記号なしで金額 (0.00) として表示されるように、BufferedWriter で double の形式を正しくするにはどうすればよいですか? 現在、(0.0) として出力されます。ご協力いただきありがとうございます。
私のコード: