問題タブ [floating-point]

ある既知の値セットから別の既知の値セットへのコンパイル時にチェック可能なマップを実行する必要があるプログラムがあります。

入力が整数または等間隔である場合、これは簡単です。私は行を反復処理するつもりですが、読みやすいマナーでルックアップを実行できるようにしたいと考えています。

私の現在の考え（私は好きではない）は、次のような列挙型を定義することです

次に、2 つのルックアップ用に設定します。

より良いアイデアはありますか？

編集:私の主な関心事は、検索しようとするものを制限することです。コードが無効なものを検索しようとする可能性がある場合は、コンパイルさえしないでください。

セットは小さく、反復時間はほとんど無関係です。

列挙型を超えて何かを得るものは何も見ていないので、今のところそれで行きます。OTOH この質問は引き続き見ていきます。

*注: ポインターなどの問題をキャッチすることについては心配していません。for ループや変数の割り当てなどの単純なコードだけです。

核心：明確さと一般性のために上記を単純化しすぎました。私は実際に、3 つの非整数で不均一な軸と 1 つの非数値軸を持つテーブルを持っています。そして、この時点では、それを列挙する必要がある方向がわかりません.

私が探しているものの風味を与えるためのいくつかのリンク：

Boost::SIと同じアイデアの私のDバージョン

私はいくつかのフロート操作を行っており、最終的に次の数字になります。

アルゴリズムは次のとおりです。

フロートが常にバイトで正確に表現できるとは限らないという事実を理解しています。例: 1/3。ステップサイズが 0.1 であることも知っています。ステップサイズがある場合、どうすれば適切な出力を得ることができますか?

奇妙なことに、この種の問題に遭遇したのは初めてです。多分私はフロートで十分に遊んでいません。

文字列がPythonで数値として表現できるかどうかを確認する最良の方法は何ですか?

私が現在持っている機能は次のとおりです。

これは、醜くて遅いだけでなく、扱いにくいようにも見えます。float()ただし、メイン関数の呼び出しはさらに悪いため、より良い方法は見つかりませんでした。

関連:

• ieee float と double が等しいかどうかを比較する
• 浮動小数点数が等しいかどうかを相対誤差と比較する必要がありますか
• float および double 比較の最も効果的な方法

ただし、x86 での80 ビット IEEE 浮動小数点(セクション 8.2 を参照) に関しては

特に、デフォルトでスケーリングされるため、オペランド間の表現可能な値の数を使用するこの実装が気に入っています。

1 つのユース ケースは、2 つの値が互いに近づく数値近似であり、それらが十分に近いかどうかを確認する必要があります。

ps 実装言語はDになりますが、翻訳できます。また、基になる型が何であれ自動的に処理できる実装 (たとえば、64 ビット実数しか利用できない場合) が理想的です。

現在使用中のコード:

Java で 2 つの double を使用して等しいか、より小さいか、より大きいかをテストするクラスを作成しました。私の一般的なケースは、0.5 セントの精度を持つ価格を比較することです。59.395 と比較して 59.005。私が選択したイプシロンは、これらのケースに適していますか?

Flash で新しい AS3 ドキュメントを作成し、次のコードを貼り付けて実行します。

エラーの理由 私は普通の高解像度の追加をしているだけです。

回避策はありますか？

この質問に続いて、プロトコル バッファで System.Decimal オブジェクトを表す最良の方法は何でしょうか?

特定の増分で 2 つの値を補間する小さな関数を作成しようとしています。

コンパイラは、これは推奨されていないことを示しており、int を使用してから float にキャストすることを提案しています。しかし、分数のインクリメントがある場合、これは少し長すぎるようです-開始値と終了値をインクリメントで割ってから、後で再度倍数にする必要がありますか? （うん！）。

シーケンス内包表記を使用してこれを行う方法についてどこかで見たことがありますが、その方法を思い出せません。

助けてください。

Pythonでは、次のような数値文字列を解析するにはどうすればよいですか

対応する float 値に、

? "31"または、文字列を整数に解析します31か?

float strを afloatに、(別々に) int strをに解析する方法を知りたいだけですint。

これは私の前の質問に関連していますが、実際にはそうではありません。私は文化を知らないインプットを持っています。したがって、「、」、「。」の両方を使用できます。分数の区切り文字として。ただし、数値が5を超えることはないため、セパレータがある場合は、分数用であると確信できます。

私はそのTryParse方法を見ていました。引数を受け入れNumberStylesます。でも分数セパレーターなどは見当たりません。

私は再び何かを逃していますか、それとも私の目標を達成するためのより良い方法がありますか？