問題タブ [fpu]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
287 参照

assembly - fpu状態(x87)

現在のfpu状態の一部と見なすことができる値の数(浮動小数点コードの計算が依存する値を意味します)に関する情報を探しています。これは、3モードの精度、4モードの丸め、約5になることを知っています。 fpu例外に関連するビットフラグですが、他に何がありますか?tnx

0 投票する
2 に答える
155 参照

assembly - 洞はスケーラブルですか?

副鼻腔とは、ここで c stdlib sin() / fpu assembl;y fsin を意味します。

この sinus 引数には、10 進数で約 16 桁以上の精度を与えることができます。たとえば、sin(1.1e-14); です。sin(1.2e-14) 次に結果を取得し、

sinus は、このような小さなデルタではほぼ線形ですが、同じ 16 桁の精度でも計算できるにもかかわらず、そのような小さなデルタでも正確に計算されますか?

(引数と特に出力値の両方でこれほどの精度で計算するのはしばらくの間私にとって少し珍しいように思えたので、私はそれについて尋ねます。

0 投票する
1 に答える
1288 参照

assembly - FFREE および FDECSTP の使用

私はこのことを理解できません: そのようなコマンド (FFREE、FDECSTP) の使用は何ですか? fpuスタックから値をポップするために使用できますか、それとも別の目的のためですか? 私はそれを理解していません:/誰かがそれを説明できますか、tnx

0 投票する
1 に答える
318 参照

delphi - FPU。ループを作る方法は?

ECXのサイクルに入ると、0の大きなランダム値があるのはなぜですか?そして、ここでサイクルを作る他の方法はありますか?

0 投票する
2 に答える
1064 参照

gcc - i87、AVXを同時に使用するが、SSEも使用しないgccオプション

AVX拡張機能をサポートするプロセッサ用にコンパイルされた場合(たとえば適用可能)、キーを同時に-m64 -march=corei7-avx -mtune=corei7-avx使用することは理にかなっていますか?コンパイラが3セットの命令( 、、 )を同時に-mfpmath=both -mavx使用するほどではありませんか?または、スカラー(ある意味で)とベクトルのみの場合はどうでしょうか。i87SSEAVXi87AVX

0 投票する
2 に答える
976 参照

math - FPU が超越関数を計算するために使用するアルゴリズムは何ですか?

最新の FPU は超越関数を計算するためにどのような方法を使用しますか?

たとえば、インテルの CPU は 、 、 などの命令を提供FSINFCOSますFYL2X。これらを実際にハードウェアに実装するには、どのようなアルゴリズムが使用されるのか興味があります。

私の素朴な推測は、おそらくいくつかのルックアップ テーブルと組み合わされたテイラー級数でしょうが、それはただの推測にすぎません。教えてください。

PS この質問は、Intel ハードウェアよりも一般的です。

0 投票する
1 に答える
1477 参照

visual-studio-2010 - FPU アセンブリを使用して対数 ln(x) を計算する

FPU を使用した単純な対数計算に問題があります。Visual Studio 2012 に統合された MASM コンパイラを使用しています。

レジスタ/ローカルなどの状態を表示するために、NOP 操作にブレークポイントを設定しました。

プロセスが NOP のとき、VS2010 ウォッチでローカル log_e_120 の値をデバッグしています。次のようになります。 デバッグの結果

FLD の操作はすべて、次のように適切に組み立てられています。

画面上部が REAL8 型、下から 2 番目が QWORD 型のデバッグ結果です。

また、log_e_120 のタイプを REAL8、QWORD に変更しましたが、まったく同じ効果です。

また、コードの値を適切にデバッグできません。

もちろん、結果は約 4.7874917427820458 ( wolframpha 計算) になるはずです。

0 投票する
0 に答える
227 参照

delphi - アクティブな FPU 例外

大丈夫だ?みんな、あなたとアイデアを交換したいと思います。私の会社では、同僚が Delphi で問題を抱えており、プロジェクトでのみ「ゼロによる浮動小数点除算」の例外が表示されません。

それがどのように影響するかを知っている場所をすべてチェックしました: - Delphi オプション -> Embarcadero Debuggers -> Language Exceptions。- 命令 System.Set8087CW ($ 1,372) をテストして、FPU 例外をアクティブにしました

しかし、うまくいきませんでした。問題の原因に関するヒントはありますか?

ありがとう。

0 投票する
1 に答える
1261 参照

assembly - アセンブリスタックアクセス

角かっこについてエラーが発生します。

ブラケットの問題について誰かが助けてくれますか?ここでfldcwを使用して制御ワードを変更しようとしています...