問題タブ [floating-point]

私はいくつかのフロート操作を行っており、最終的に次の数字になります。

アルゴリズムは次のとおりです。

フロートが常にバイトで正確に表現できるとは限らないという事実を理解しています。例: 1/3。ステップサイズが 0.1 であることも知っています。ステップサイズがある場合、どうすれば適切な出力を得ることができますか?

奇妙なことに、この種の問題に遭遇したのは初めてです。多分私はフロートで十分に遊んでいません。

文字列がPythonで数値として表現できるかどうかを確認する最良の方法は何ですか?

私が現在持っている機能は次のとおりです。

これは、醜くて遅いだけでなく、扱いにくいようにも見えます。float()ただし、メイン関数の呼び出しはさらに悪いため、より良い方法は見つかりませんでした。

関連:

• ieee float と double が等しいかどうかを比較する
• 浮動小数点数が等しいかどうかを相対誤差と比較する必要がありますか
• float および double 比較の最も効果的な方法

ただし、x86 での80 ビット IEEE 浮動小数点(セクション 8.2 を参照) に関しては

特に、デフォルトでスケーリングされるため、オペランド間の表現可能な値の数を使用するこの実装が気に入っています。

1 つのユース ケースは、2 つの値が互いに近づく数値近似であり、それらが十分に近いかどうかを確認する必要があります。

ps 実装言語はDになりますが、翻訳できます。また、基になる型が何であれ自動的に処理できる実装 (たとえば、64 ビット実数しか利用できない場合) が理想的です。

現在使用中のコード:

Java で 2 つの double を使用して等しいか、より小さいか、より大きいかをテストするクラスを作成しました。私の一般的なケースは、0.5 セントの精度を持つ価格を比較することです。59.395 と比較して 59.005。私が選択したイプシロンは、これらのケースに適していますか?

Flash で新しい AS3 ドキュメントを作成し、次のコードを貼り付けて実行します。

エラーの理由 私は普通の高解像度の追加をしているだけです。

回避策はありますか？

この質問に続いて、プロトコル バッファで System.Decimal オブジェクトを表す最良の方法は何でしょうか?

特定の増分で 2 つの値を補間する小さな関数を作成しようとしています。

コンパイラは、これは推奨されていないことを示しており、int を使用してから float にキャストすることを提案しています。しかし、分数のインクリメントがある場合、これは少し長すぎるようです-開始値と終了値をインクリメントで割ってから、後で再度倍数にする必要がありますか? （うん！）。

シーケンス内包表記を使用してこれを行う方法についてどこかで見たことがありますが、その方法を思い出せません。

助けてください。

Pythonでは、次のような数値文字列を解析するにはどうすればよいですか

対応する float 値に、

? "31"または、文字列を整数に解析します31か?

float strを afloatに、(別々に) int strをに解析する方法を知りたいだけですint。

これは私の前の質問に関連していますが、実際にはそうではありません。私は文化を知らないインプットを持っています。したがって、「、」、「。」の両方を使用できます。分数の区切り文字として。ただし、数値が5を超えることはないため、セパレータがある場合は、分数用であると確信できます。

私はそのTryParse方法を見ていました。引数を受け入れNumberStylesます。でも分数セパレーターなどは見当たりません。

私は再び何かを逃していますか、それとも私の目標を達成するためのより良い方法がありますか？

c# (または一般に .NET) で double から仮数と指数を取得する簡単な方法はありますか?

Google を使用してこの例を見つけましたが、それがどれほど堅牢かはわかりません。フレームワークの将来のバージョンなどで、二重の変更のバイナリ表現はありますか?

私が見つけた他の代替手段は、double の代わりに System.Decimal を使用し、Decimal.GetBits()メソッドを使用してそれらを抽出することでした。

助言がありますか？