問題タブ [rounding]

PerlのStatistics::Descriptionライブラリを使用して度数分布を計算し、浮動小数点の丸め誤差の問題に直面しています。

0.205と0.205の2つの値（他の数値から取得してそれらにスプリント）を統計モジュールに渡し、度数分布を計算するように依頼しましたが、無限ループに陥っています。

デバッガーをステップスルーすると、次のことがわかります。

$ self-> sample_range（範囲はmax-min）は、予想どおり0ではなく2.77555756156289e-17を返します。これは、ループ（（min + = range）<max））が（すべての目的と目的で）無限ループに入ることを意味します。

DB <8> print $ self-> {max};
0.205
DB <9> print $ self-> {min};
0.205
DB <10> print $ self-> {max}-$ self-> {min};
2.77555756156289e-17

したがって、これは丸めの問題のように見えます。しかし、これを自分の側で修正する方法を考えることはできません。また、ライブラリを編集することが良い考えかどうかはわかりません。回避策または代替案の提案を探しています。

乾杯、ニール

3 つの数値セット、測定値 (0 から 1 を含む範囲)、2 つのエラー (正と負) があります。いずれかの番号にゼロエントリ。

この要件が 1 つの場合、測定ではスキップされます (つまり、エラーの数値のみを考慮する必要があります)。例えば：

ここで、log10(num) を取得することでゼロ以外の最初の数字を取得するのは簡単ですが、ストリッピングと丸めをクリーンな方法で機能させようとするばかげた瞬間があります。

すべてのデータ型は double で、選択した言語は C++ です。どんなアイデアでも大歓迎！

C# では、の結果Math.Round(2.5)は 2 です。

3のはずですよね？なぜC#ではなく2なのですか?

次の結果に非常に混乱しています。

コンソール結果 = 0.01745329251994329500

コンソール結果 = 0.0174533

これを参照しているため、わかりません：

http://msdn.microsoft.com/en-us/library/ms131092.aspx

Sql Server Float は、c# の double と同等である必要があります。しかし、これをC#で計算すると:

私は0.017453292519943295を取得します...

2dp に丸めるために次のコードを使用しています。

6.666 から 6.67 への丸めは正常に行われますが、5.555 の丸めでは正しく機能しません。5.55 を返しますが、(少なくとも私の意見では) 5.56 を返す必要があります。

次の桁が 5 のときに切り上げるにはどうすればよいですか? つまり、5.56 を返します。

編集：cinで5.555を入力すると、5.554999997として保存されるため、これが起こっていることに気付きました。

最初に 3 dp に、次に 2 dp に、2 段階で丸めます。他の（よりエレガントな）アイデアはありますか？

SELECT ステートメントは次のとおりです。

小数点以下2桁に丸められない理由について何か考えはありますか?

私はMATLABの初心者です。ここに問題があります：

cは1でなければなりませんよね？なんで0なの？

b=2を直接入力した場合は次のように異なります。

Excel では-> .NET では=ROUNDUP(474.872126666666, 2)474.88 、

クライアントが Excel の丸め結果を求めています。.NET で 474.88 を取得する方法はありますか?

どうもありがとう

classこの方法で丸めを行うJava関数またはユーティリティはありますか:func(3/2) = 2

Math.ceil()名前でそうすべきだったのに、役に立ちません。私は知っていますがBigDecimal、それは必要ありません。

round(45.923,-1)は 50 の結果を返します。これはなぜですか? どのように計算されますか？

（申し訳ありませんが、値が46であることを示唆するこの質問の以前のバージョンと間違えられました）