問題タブ [underflow]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
1501 参照

floating-point - 実数を乗算するときにアンダーフローを回避するには?

次のような Fortran コードをコンパイルするときに、アンダーフロー エラーを発生させずに、float (または double) の数値を乗算または 2 乗する適切な方法があるかどうかを知りたいです。

underflowこのオプションが必ずしも良いアイデアではないことはわかっていますが、このオプションで乗算を実行できるかどうか疑問に思っています。実際、次の例では、アンダーフローが発生する可能性があることはわかっていますが、コード内の他のケースを認識していない可能性があります。これが、可能であれば、このオプションを維持したい理由です。

これは、行列のすべての x、y インデックスに対してベクトル u を計算する例です。これらのベクトルを構成する 2 つの値は 0 から 1 の間です。次に、そのノルムの 2 乗を計算します。

非常に論理的で、この二乗演算のために値がアンダーフローします。これらの非常に小さな値は、私にとってゼロと見なすことができるためです。underflow比較を使用するよりも良くない方法はありifますか?