問題タブ [rounding]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
5 に答える
19147 参照

sql - MS SQL / SQLServer2005で正確に日付範囲を制限する

レポートを制限して、日付Aから日付Bまでのレコードを返すようにします。これは私が行っていることです。

... 1月1日午前12時から3月31日午後11時59分までのレコードが返されると言われました(時刻が示されていない場合は深夜がデフォルトです)。しかし、不一致に気づきました。つまり、レコードの時刻が00:00:00の場合、このセットの一部になります。

これを行うためのより正確な方法はありますか?それにより、希望する日付範囲が正確に返されますか?*

私は時間を使ってみました:

...しかし、私は何か奇妙なことに気づきました。SQLServerは100分の1秒を半分に丸めます。したがって、11:59:29以降に使用すると、その4月1日のレコード(ha!エイプリルフールのレコード!grr)が取得されます。何故ですか?

  • (確かにあると思います。私はこれが初めてです。あなたの助けに感謝します!)
0 投票する
4 に答える
342 参照

c - C での丸めのショートカット

私はCで作業して、次のような擬似コードを実装しています:

floatDelay は常に正です。math.h のラウンド関数を使用する利点はありますか:

または私は使用できます:

0 投票する
6 に答える
17756 参照

cocoa - NSDecimalNumber を使用してお金を処理する必要がありますか?

最初のアプリのコーディングを開始したとき、よく考えずにお金の値に NSNumber を使用しました。それから、自分の価値観を扱うにはc型で十分かもしれないと思いました。それでも、iPhone SDK フォーラムで、丸め機能が優れている NSDecimalNumber を使用するように勧められました。

気質によって数学者ではないので、仮数/指数のパラダイムはやり過ぎかもしれないと思いました。それでも、ググってみると、ココアのお金/通貨に関するほとんどの話は NSDecimalNumber に言及されていることに気付きました。

私が取り組んでいるアプリは国際化されることに注意してください。そのため、金額をセントで数えるオプションは実際には実行可能ではありません。通貨構造は使用するロケールに大きく依存するからです。

私は NSDecimalNumber を使用する必要があることを 90% 確信していますが、ウェブ上で明確な答えが見つからなかったので (「お金を扱うなら、NSDecimalNumber を使用してください!」のようなもの)、ここで質問したいと思いました。答えはほとんどの人にとって明白かもしれませんが、アプリの大規模なリファクタリングを開始する前に確認したいと思います。

信じさせて :)

0 投票する
32 に答える
4419958 参照

python - フロートを小数点以下2桁に制限する

13.95aに丸めたい。

関数が期待どおりにround機能しません。

0 投票する
3 に答える
192142 参照

javascript - jQueryで、数値を小数点以下2桁にフォーマットする最良の方法は何ですか?

これは私が今持っているものです:

私には乱雑に見えます。関数を正しく連鎖しているとは思いません。テキストボックスごとに呼び出す必要がありますか、それとも別の関数を作成できますか?

0 投票する
23 に答える
420123 参照

c++ - C++ の float の round()

したがって、単純な浮動小数点丸め関数が必要です。

math.h でceil()とを見つけることができますが、 ではありません。floor()round()

別の名前で標準 C++ ライブラリに存在しますか、それとも欠落していますか??

0 投票する
2 に答える
3290 参照

java - Java: 任意の値に丸める

Java では、どのように任意の値に丸めますか? 具体的には、.0025 ステップに丸めます。つまり、次のようになります。

0.032611 -> 0.0325

0.034143 -> 0.0350

0.035233 -> 0.0350

0.037777 -> 0.0375

...

アイデアやライブラリはありますか?

0 投票する
3 に答える
5915 参照

php - PHP の round は、完全な数ではなく科学表記法を示します

1400000 を含む変数のエコーを実行しようとしています。したがって、次のように書かれています。echo round(1400000); これは、完全な数ではなく 1,4E+6 を返します。それを完全に表示する方法についてのアイデアはありますか?

0 投票する
7 に答える
132181 参照

c - C で float を丸める関数はありますか、それとも自分で書く必要がありますか?

C で float を丸める関数はありますか、それとも自分で書く必要がありますか?

フロート変換 = 45.59 2346543;

実際の値を小数点以下 1 桁に丸めたいのですが、conver = 45. 6 .

0 投票する
3 に答える
5412 参照

sql - SQLServer2005のINSERTおよびUPDATEでfloatとして定義された列を丸める方法

私は、floatデータ型を使用して、小数点以下2桁(ドルとセント)のみである必要がある値を格納するデータベースに取り組んでいます。

float列を更新する人がROUNDを実行する限り、floatの使用は問題なく機能しているように見えます。もちろん、これは常に発生するとは限りません。SUMが実行されると、表示は小数点以下2桁のみを表示するようにフォーマットされているため、表示されているものから常に数ペニーずれています。このデータベースには、floatを使用する数百のテーブルがあり、float列を自動的に丸めることができると便利です。

これはできますか?

INSERTおよびUPDATEでTRIGGERを使用して、列でROUNDを実行できますか?

可能であれば、TRIGGERをどのようにコーディングするかを示し、それをお勧めしますか?

他のアイデアはありますか?

SQLServer2005を使用しています

これは、 「フロートまたはデシマルを会計アプリケーションのドル額に使用しますか?」という質問をする投稿です。、そして私は言った1つの応答が好きです

「ある種の固定小数点/任意精度の数値パッケージ(Java BigNum、Python 10進モジュールなど)の使用を実際に検討する必要があります。そうしないと、傷ついた世界に陥ることになります。」