問題タブ [floating-point]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
math - 浮動小数点 (im) 精度へのちょっとした転用、パート 1
ほとんどの数学者は、次のことに同意します。
e πi + 1 = 0
ただし、ほとんどの浮動小数点の実装は同意しません。この論争をどこまで解決できるでしょうか。
さまざまな言語と実装、および結果をできるだけゼロに近づけるためのさまざまな方法について聞きたいと思っています。クリエイティブに!
python - バイトを浮動小数点数に変換しますか?
解析する必要があるバイナリ ファイルがあり、Python を使用しています。4 バイトを取得して単精度浮動小数点数に変換する方法はありますか?
c++ - float と double の比較で最も効果的な方法は何ですか?
double
2 つまたは 2 つのfloat
値を比較する最も効率的な方法は何ですか?
単純にこれを行うのは正しくありません:
しかし、次のようなもの:
無駄な処理をしているようです。
よりスマートなフロート比較器を知っている人はいますか?
variables - IEEE float と double の等価性の比較
IEEE float と double が等しいかどうかを比較するための最良の方法は何ですか? いくつかの方法について聞いたことがありますが、コミュニティがどう考えているかを知りたかったのです。
c# - C#で乱数を生成するにはどうすればよいですか?
2 つの値の間でランダムな浮動小数点数を生成したいと思います。C#でこれを行う最良の方法は何ですか?
c++ - coutはどういうわけか変数を変更できますか?
だから私はこのような関数を持っています:
ある時点で、この関数はオーバーフローし、非常に大きな負の値を返します。これが発生している場所を正確に追跡するために、関数が次のようになるようにcoutステートメントを追加しました。
そしてそれはうまくいきました!もちろん、ダブルを使って問題を完全に解決しました。しかし、私がそれを吐いたときに、なぜ関数が正しく機能したのかについて興味があります。これは典型的なものですか、それとも私が見逃しているバグがどこかにある可能性がありますか?
(助けになる場合は、floatに格納される値は単なる整数値であり、特に大きな値ではありません。キャストを避けるために、floatに入れるだけです。)
python - round() が正しく丸められていないようです
round()関数のドキュメントには、数値を渡し、小数点以下の位置を丸めると記載されています。したがって、これを行う必要があります。
しかし、実際には、古き良き浮動小数点の奇妙さが忍び寄り、次のようになります。
UI のために、表示する必要があります5.6
。インターネットを調べてみると、これが Python の実装に依存しているというドキュメントがいくつか見つかりました。残念ながら、これは私の Windows 開発マシンと私が試した各 Linux サーバーの両方で発生します。こちらもご覧ください。
独自のラウンド ライブラリを作成する以外に、これを回避する方法はありますか?
floating-point - 浮動小数点はどのように格納されますか? いつ問題になりますか?
この質問のフォローアップでは、一部の数値は浮動小数点でまったく表現できず、代わりに概算されているようです。
浮動小数点数はどのように格納されますか?
異なるサイズに共通の規格はありますか?
浮動小数点を使用する場合、どのような問題に注意する必要がありますか?
それらは言語間で互換性がありますか (つまり、浮動小数点数を Python プログラムから TCP/IP 経由で C プログラムに送信するには、どのような変換を行う必要がありますか)?
c# - C#で科学表記法文字列からfloatに変換する
C# を使用して、「1.234567E-06」などの科学表記文字列から浮動小数点変数に変換する適切な方法は何ですか?