問題タブ [underflow]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
183 参照

assembly - アセンブリで、-128 から 127 の範囲を超えるにはどうすればよいですか?

だから私はこの宣言を.bssに持っています

答えとして、-99 から +99 までの範囲の 2 桁の整数の合計の結果を保存します。+99と+99を足してみると、答えがマイナスになってしまいます。-128 から 127 の範囲内の任意の回答が正しく入力されます。このオーバーフロー/アンダーフローの問題を解決するにはどうすればよいですか?

私はアセンブリコーディングを始めたばかりなので、この問題を理解するのを手伝ってください。resb を resw として作成しようとしましたが、コードを実行すると「浮動小数点エラー」が発生したため、resb の使用に戻りました。

答えを印刷する方法

0 投票する
1 に答える
286 参照

linear-algebra - 優雅なアンダーフロー

私はこれについて長い間検索してきましたが、この質問が何を意味するのか理解できません。

質問:

オーバーフロー条件は次のようなものであることを理解しています: 整数がx の最大値を格納できる場合、 x+1の値を割り当てると、値x+1は整数が保持できる最小値に変換されます。アンダーフローはその逆であることを理解しています。

高性能科学計算/線形代数の観点から見てどうですか?

このリンクを読みましたが、上記と同じアンダーフロー/オーバーフローだと思います。グレースフル アンダーフローとは何の略ですか?

0 投票する
2 に答える
607 参照

floating-point - 非正規数をサポートする実装 (IEEE754) のアンダーフローを定義する方法は?

最近、IEEE754 規格のアンダーフローの定義について混乱しています。実装が非正規数をサポートしていない場合、表現できる最小の数は MinNorm = 1.0 * 2^-126 であることがわかっています。どの演算でも、結果が MinNorm より小さい場合、アンダーフローと見なされます。しかし、実装が非正規数をサポートしている場合、表現できる最小の数は MinSubnorm = 1.0 * 2^-149 です。ここで質問があります: 操作の結果が MinNorm より小さい場合、それがアンダーフローの場合は? MinSubnorm よりも小さいのはどうですか?

そして現在、非正規数をサポートする FPU の実装に取り​​組んでいます。丸め前の結果は厳密に -MinNorm と +MinNorm の間にあり、丸め後は MinNorm よりも小さくなると仮定します (非正規数を使用して表現できます)。私はそれを何と見なしますか?アンダーフローまたは非アンダーフロー? アンダーフローのステータスビットを設定する必要がある場合は?

オンラインでいくつかの情報を見つけましたが、意見は次のように分かれています。

  1. http://www.cs.umd.edu/class/sum2003/cmsc311/Notes/Data/underflow.html アンダーフローは、ゼロ以外の最小の大きさよりも小さい演算を実行すると発生します。IEEE 754 単精度では、これは 1.0 x 2-149 未満の大きさ (つまり、絶対値) を持つ値を意味します。

  2. http://en.wikipedia.org/wiki/Arithmetic_underflow 算術アンダーフローは、浮動小数点演算の真の結果が、通常の浮動小数点数として表現可能な最小値よりも小さい (つまり、0 に近い) 場合に発生する可能性があります。ターゲットのデータ型

0 投票する
1 に答える
50 参照

math - Google Guava ライブラリのオーバーフローの条件

これは、オーバーフローまたはアンダーフロー時に算術例外をスローする LongMath.checkedAdd() メソッドのコードです。

この API が (a ^ result) をテストしている理由は理解していますが、この条件を含める理由がわかりません: (a ^ b) < 0 。数値が反対の符号であることのテストはどのように役立ちますか?

0 投票する
1 に答える
529 参照

binary - 2 の補数バイナリ加算

2 つの 2 の補数の 2 進数を加算して出力を吐き出すプログラムがあります。それらは、2 の補数である最初の 2 進数としてファイルから読み取られます。2 番目の 2 進数が偏った表記になっています。2 の補数にバイアスされた形式を変更するには、左端のビットを反転します。次に、2 つの 2 進数を加算し、ファイルに出力します。私が問題を抱えているのは、出力を理解することです。次の出力は、最初の 2 進数が 2 の補数で、2 番目がバイアス表記です。

3 番目の例を考えると、3 + 7 = 6 となります。これは正しいのでしょうか? 正しくないようですが、他の例は正しいです。-16 + 8 = -8 のように。

だから私の質問は...このファイルの出力は正しいですか?