問題タブ [floating-point-conversion]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
3373 参照

c - C/C++ - 32 ビット浮動小数点値を 24 ビット正規化固定小数点値に変換しますか?

32 ビット浮動小数点数を 24 ビット正規化値に変換する方法を教えてください。私が試したのは (units * (1 <<24) ですが、うまくいかないようです。これで私を助けてください。ありがとう。

0 投票する
2 に答える
458 参照

c - 最大浮動小数

  • プラットフォーム: Linux 3.2.0 (Debian 7.0)
  • コンパイラ: GCC 4.7.2 (Debian 4.7.2-5)

文字列をフロートに変換しようとしています。これを行う機能がすでにあることは承知しています。私は練習のためにこれをやっているだけです。私の関数は、123.123、1234、-678.8 などの単純な数値でうまく機能します。しかし、文字列 .99999999 を float に変換しようとすると、最終的に 1 になります。これは明らかに問題です。これは .99999999 を float で表現できないためなのか、それとも私のやり方が間違っているのかわかりません。私が尋ねている質問は、フロートが表現できる最大の分数をどのように計算できるかということです。より適切な用語がないため、フロートがいつオーバーフローしようとしているかを知るにはどうすればよいですか?

これが私がこれまでに持っているものです。

また、 cstrtof() は次の関数に基づいています。

0 投票する
2 に答える
5844 参照

c - if() での float 変数の比較について

次のコードの理由が見つかりません:

出力は false です。

正しい出力が表示されるようになりました。この背後にある理由は何ですか?

また、この動作の理由は何ですか。

0 投票する
2 に答える
482 参照

c - float を double として読み取る

私のコードは次のようになります

そして、次のコンパイル エラーが表示されます。

ここで、x は数字の 1 つです。これは scanf コマンドの 6 つの引数すべてで発生します。すべての変数を float として指定しましたが、それは気に入りません。

これを修正するにはどうすればよいですか? ありがとう!

0 投票する
6 に答える
4713 参照

c - float が機能しないのはなぜですか?

私のコードでは、出力は 2.000000 ですが、2.11111 であるはずです

なぜ機能しないのですか?

0 投票する
3 に答える
3668 参照

floating-point - 符号付き IEEE 754 float を 16 進数表現に変換します

残念ながら時代遅れの Lua のフロントエンドを使用しているため、ここではバージョン 5.1 に固執しています。これは、bit32ライブラリが手の届かないところにあることを意味します (おそらく、これを変換するために使用できたはずです)。

だから、浮動小数点からバイナリ(数字)への関数、または浮動小数点から16進数への関数を実装できる方法を誰かが知っているかどうか疑問に思っています。これまでに思いついた最高のものは、10進数から2進数/16進数への関数です...

0 投票する
1 に答える
1009 参照

c++ - IEEE-754 浮動小数点がプラットフォーム間で交換できないのはなぜですか?

(バイト エンディアンを考慮しても) IEEE754 浮動小数点がプラットフォーム間で交換可能であることが保証されていないことが主張されています。

そう:

  • 理論的に、IEEE 浮動小数点がプラットフォーム間で交換できないのはなぜですか?
  • これらの問題は、最新のハードウェア プラットフォーム (i686、x64、arm など) で有効ですか?

懸念事項が有効である場合、これが当てはまる例を示していただけますか (C または C++ が推奨されます)。


動機:いくつかのGPS メーカーは、(たとえば) 緯度、経度、生データのバイナリ形式を「IEEE-754 準拠の浮動小数点値」で交換しています。そのため、テキスト形式やその他の「ポータブル」形式を選択することはできません。したがって、私の質問は、違いが発生する場合と発生しない場合があります。