問題タブ [floating-point]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
10 に答える
2090 参照

math - 浮動小数点 (im) 精度へのちょっとした転用、パート 1

ほとんどの数学者は、次のことに同意します。

e πi + 1 = 0

ただし、ほとんどの浮動小数点の実装は同意しません。この論争をどこまで解決できるでしょうか。

さまざまな言語と実装、および結果をできるだけゼロに近づけるためのさまざまな方法について聞きたいと思っています。クリエイティブに!

0 投票する
2 に答える
115813 参照

python - バイトを浮動小数点数に変換しますか?

解析する必要があるバイナリ ファイルがあり、Python を使用しています。4 バイトを取得して単精度浮動小数点数に変換する方法はありますか?

0 投票する
33 に答える
544276 参照

c++ - float と double の比較で最も効果的な方法は何ですか?

double2 つまたは 2 つのfloat値を比較する最も効率的な方法は何ですか?

単純にこれを行うのは正しくありません:

しかし、次のようなもの:

無駄な処理をしているようです。

よりスマートなフロート比較器を知っている人はいますか?

0 投票する
15 に答える
5393 参照

variables - IEEE float と double の等価性の比較

IEEE float と double が等しいかどうかを比較するための最良の方法は何ですか? いくつかの方法について聞いたことがありますが、コミュニティがどう考えているかを知りたかったのです。

0 投票する
6 に答える
41567 参照

c# - C#で乱数を生成するにはどうすればよいですか?

2 つの値の間でランダムな浮動小数点数を生成したいと思います。C#でこれを行う最良の方法は何ですか?

0 投票する
5 に答える
2320 参照

c++ - coutはどういうわけか変数を変更できますか?

だから私はこのような関数を持っています:

ある時点で、この関数はオーバーフローし、非常に大きな負の値を返します。これが発生している場所を正確に追跡するために、関数が次のようになるようにcoutステートメントを追加しました。

そしてそれはうまくいきました!もちろん、ダブルを使って問題を完全に解決しました。しかし、私がそれを吐いたときに、なぜ関数が正しく機能したのかについて興味があります。これは典型的なものですか、それとも私が見逃しているバグがどこかにある可能性がありますか?

(助けになる場合は、floatに格納される値は単なる整数値であり、特に大きな値ではありません。キャストを避けるために、floatに入れるだけです。)

0 投票する
20 に答える
248111 参照

python - round() が正しく丸められていないようです

round()関数のドキュメントには、数値を渡し、小数点以下の位置を丸めると記載されています。したがって、これ行う必要があります。

しかし、実際には、古き良き浮動小数点の奇妙さが忍び寄り、次のようになります。

UI のために、表示する必要があります5.6。インターネットを調べてみると、これが Python の実装に依存しているというドキュメントがいくつか見つかりました。残念ながら、これは私の Windows 開発マシンと私が試した各 Linux サーバーの両方で発生します。こちらもご覧ください

独自のラウンド ライブラリを作成する以外に、これを回避する方法はありますか?

0 投票する
9 に答える
22488 参照

floating-point - 浮動小数点はどのように格納されますか? いつ問題になりますか?

この質問のフォローアップでは、一部の数値は浮動小数点でまったく表現できず、代わりに概算されているようです。

浮動小数点数はどのように格納されますか?

異なるサイズに共通の規格はありますか?

浮動小数点を使用する場合、どのような問題に注意する必要がありますか?

それらは言語間で互換性がありますか (つまり、浮動小数点数を Python プログラムから TCP/IP 経由で C プログラムに送信するには、どのような変換を行う必要がありますか)?

0 投票する
2 に答える
42368 参照

c# - C#で科学表記法文字列からfloatに変換する

C# を使用して、「1.234567E-06」などの科学表記文字列から浮動小数点変数に変換する適切な方法は何ですか?