問題タブ [double]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - 32 ビットおよび 64 ビット OS でのダブル バイト サイズ
アプリを 32 ビット環境と 64 ビット環境で実行すると、 2 倍のサイズに違いはありますか?
私が間違っていなければ、32 ビット環境の double は 0 の後に 16 桁を占めますが、64 ビット環境の double は 32 ビットを占めますよね?
java - JDBC で null の可能性のある double 値を resultSet から読み取るにはどうすればよいですか?
データベースに型指定された列がありdouble
、JDBC ResultSet を使用して値を読み取りたいのですが、null である可能性があります。これを行う最善の方法は何ですか?どれもあまり良いとは思えない 3 つのオプションを考えることができます。
オプション 1: 例外処理が冗長で臭いので悪い
オプション 2: フェッチが 2 回なので悪い
オプション 3: SQL 変換ではなく Java が原因で悪い
どちらの方法が優れているか、または別の優れた方法について何か提案はありますか? また、「Hibernate を使用する」とは言わないでください。ここでは JDBC コードのみに制限されています。
c++ - doubleを文字列C++に変換しますか?
文字列と double を結合したいのですが、g++ がこのエラーをスローしています:
main.cpp: 関数 'int main()' 内:
main.cpp:40: エラー: タイプ 'const char [2]' および 'double' からバイナリ 'operator+' への無効なオペランド</p>
エラーをスローしているコード行は次のとおりです。
storedCorrect[] は文字列配列で、c1 と c2 は両方とも double です。プログラムを正しくコンパイルできるように、c1 と c2 を文字列に変換する方法はありますか?
c# - 大きな数値の四捨五入 [c#]
ここで奇妙な問題が発生しています。列に巨大な値が格納されているデータベース テーブルがあります。私のアプリケーション (C#) は、この値を読み取り、double型に保持しています。このアプリケーションは、同じ値を別のテーブルに挿入します。注:最初のテーブルから読み取った値に対して計算/処理を行っていません。2 番目のテーブルを更新するために保持されます。
ここでの問題は、2 番目のテーブルが最初のテーブルとはわずかに異なる値を取得していることです。double型にしておくと数字が四捨五入されているようです。
値の例を次に示します。
元の値: 18014398509481984
新しいテーブルにコピーされた値: 18014398509482000
値は異なって見えますが、実際には両方とも同じです。検索語として18014398509481984 - 18014398509482000を使用して Google 検索を行ったところ、結果0が返されました。これは、両方が同じであることを意味します。
質問:
1 - 両方が同じ場合、2 番目の値が異なって見えるのはなぜですか? 1984 年が2000年に変わったことがわかります。
2 - コンバージョンが発生する理由
3 - この種の変換を回避するにはどうすればよいですか?
どんな助けでも素晴らしいでしょう!
c++ - C / C ++は、特定の精度で小数を効率的に切り上げます
私は以下を最適化しようとしています。以下のコードはこれを行います:
a = 0.775 で精度 2 dp が必要な場合、a => 0.78
基本的に、最後の桁が 5 の場合は次の桁を切り上げますが、そうでない場合は切り上げません。
私の問題は、値が 0.44999999343.... として保存され、setprecision が 0.4 に丸められるため、0.45 が小数点 1 で 0.5 に丸められないことでした。
そのため、setprecision をより高くする必要がsetprecision(p+10)
あり、実際に 5 で終わる場合は、正しく切り上げるために少量を追加します。
完了すると、a と文字列 b を比較し、結果を返します。問題は、この関数が数十億回呼び出され、プログラムがクロールすることです。これを書き換え/最適化する方法と、コード内のどの機能がマシンに非常に重いかについて、より良いアイデアはありますか?
java - Java で BufferedWriter を使用して double 出力をフォーマットする
私は課題に取り組んでおり、コードを完成させましたが、出力の正しいフォーマットに問題があります。テキスト ファイルを取得し、価格に基づいて製品を分離し、データを 2 つの個別のファイルに追加します。ドル記号なしで金額 (0.00) として表示されるように、BufferedWriter で double の形式を正しくするにはどうすればよいですか? 現在、(0.0) として出力されます。ご協力いただきありがとうございます。
私のコード:
c# - C# でフロートを使用する簡単な方法を探しています
さまざまな理由から、コードでは double ではなく float を使用する必要があります。コードでリテラルを使用するには、次のように記述する必要があります。
または、コンパイラは「0.75」だけを double として扱うため、barf を実行します。毎回「F」を追加することなく、「0.75」のようなリテラルをフロートとして扱うように、コードに入れたり Visual Studio に設定したりできるものはありますか?
math - VisualBasic6.0の10進データ型
非常に大きな数で計算(除算または乗算)を行う必要があります。現在、私はDoubleを使用しており、値の丸めの問題を取得しています。Decimalタイプを使用して、C#で同じ計算を正確に行うことができます。VB6.0で正確な計算を行う方法を探していますが、VB6.0でDecimal型が見つかりませんでした。
大きな値で浮動小数点の四捨五入の問題を起こさずに算術計算を行うために使用されるデータ型は何ですか?
java - HibernateでのDoubleの選択に関する問題
ここで(double変数)これが私のコードであるオブジェクトを読み取りたいときに問題があります:
BranchBuildingテーブル:
Adrresse Embbedable:
これは私のクエリマネージャーです:
これはクラスメーカーです:
地理座標でbuildingBranchエンティティをロードしたいのですが、Queryを設定するとnullに戻ります。
しかし、以下のクエリを使用すると、正しい結果が返されます(テーブルにlat=0およびlong=0でブランチビルディングを挿入します)
私の問題がどこにあるか知っている人はいますか?
c# - 10進数と2倍!- どれをいつ使用すればよいですか?
C# で double を使用している人をよく見かけます。double が精度を失うことがあることをどこかで読んだことは知っています。私の質問は、いつ double を使用し、いつ decimal 型を使用する必要があるかということです。お金の計算に適した型は? (つまり、1 億ドル以上)