問題タブ [overflowexception]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - decimal.MaxValue で SQLiteDataReader を使用した SQLiteDataReader OverflowException
問題
これは部分的に私が自分自身の最悪の敵であることです. SQLite データベースとの間ですべての異なる基本データ型を書き込んで取得する能力を検証する単体テストがあります。私のテストの中で、(これらに限定されません)<datatype>.MinValue
とを含む各データ型のいくつかの異なる値を検証し<datatype>.MaxValue
ます。
データベースにa を書き込んでdecimal.MaxValue
取得しようとすると、オーバーフロー例外が発生します (データベース自体の丸めのおかげです)。
注:実際のクラスを必要最低限の要素まで取り除き、それらをテスト メソッド内に配置して、すべてをより簡単に表示できるようにしました。
出力:
回避策
回避策を見つけました(気に入らないだけです)。基本的に、失敗させてから、戻って Double として取得しようとします。次に、必要なものに変換します。オーバーフローしたため、最大値または最小値のいずれかでなければならないことがわかっています。
より大きな問題(私が見ているように)
この問題に遭遇したのはこれだけではありません。また、decimal.MinValue および ulong.MaxValue でも発生します。オーバーフローが発生した場合に最大/最小値が必要であると想定しているため、私は自分のソリューションのファンではありません。また、必要な最小値/最大値をハードコードしないように一般化したいと思います。繰り返しますが、解決策を見つけました。しかし、繰り返しますが、それは醜いです(型を渡して値を変換し、それを切り替える関数...厄介です)。
python - Pythonで非常に大きな数を計算してファイルに書き込む方法は?
これは重複した質問のように思えるかもしれませんが、そうかもしれませんが、他の多くの情報源を確認しましたが、解決策はどれも機能していないようです. 私が計算しようとしている数は 999,999^999,999 で、無駄に大きいですが、私はしばらくそれを取得しようとしています。結果をテキストファイルに書き込みたい。通常、オーバーフロー エラーが発生します。別の質問の解決策を試した後、別のオーバーフロー メッセージが表示されるようになりました。この数を計算する方法はありますか?Python でできない場合は、他の方法でできますか?
この時点での私のコード:
エラー:
c# - C# は浮動小数点数に対して OverflowException をスローしますか?
C#コンパイラは浮動小数点数値型のOverflowExceptionをスローしますか?
私はそれを理解するためにこれを試しました:
コンソール ウィンドウに表示されたのは ∞ でした。
∞ は例外よりもデバッグ時に便利ですか?
c# - json解析時のintとint64の扱い方
json をループして値を取得するプログラムがあります。これは、int32 が処理する以上の整数になるまで検索を行います。
以下でint32とint64の両方を扱うことは可能ですか?以下を使用しようとしましたが、うまくいかなかったようです