問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
8 に答える
39614 参照

c# - C# で有効数字を使用して数値をフォーマットする

表示する SharePoint リストにプッシュする 10 進データがいくつかあります。特定の計算に関する知識に基づいて、結果データに表示される有効数字の数を制限したいと考えています。時々 3 になるので、12345 は 12300 になり、0.012345 は 0.0123 になります。場合によっては 4 または 5 になります。これを処理する便利な方法はありますか?

0 投票する
18 に答える
41138 参照

algorithm - 任意の有効桁数への丸め

任意の数値 (整数 > 0 だけでなく) を有効数字 N 桁に丸めるにはどうすればよいですか?

たとえば、有効数字 3 桁に丸めたい場合は、次のような式を探しています。

1,239,451 を返し、1,240,000 を返します

12.1257 と 12.1 を返します

.0681 とリターン .0681

5 して 5 を返す

当然のことながら、アルゴリズムは 3 の N のみを処理するようにハードコーディングされるべきではありませんが、それは出発点になります。

0 投票する
15 に答える
69701 参照

c# - double を有効数字 x に丸める

double (234.004223) などがある場合、これを C# で有効桁数 x に丸めたいと思います。

これまでのところ、小数点以下 x 桁に丸める方法しか見つけることができませんが、数値に 0 がある場合、これは単純に精度を削除します。

例えば、0.086~小数点以下1桁は0.1になりますが、0.08のままでお願いしたいです。

0 投票する
4 に答える
21501 参照

sql - SQLの有効数字をnに四捨五入

SQLで有効数字をnに四捨五入できるようにしたいと思います。それで:

有効数字ではなく小数点以下n桁に丸めるROUND()関数を知っています。

0 投票する
2 に答える
690 参照

c - 最下位桁から最上位桁までの数値の配列を出力しますか?

最下位桁から最上位桁まで (x 軸に表示されている数字のように) どのように数値を出力しますか? ありがとうございました

0 投票する
4 に答える
22552 参照

python - Pythonで浮動小数点数をうまく表現する

浮動小数点数を有効桁数に丸めた文字列として表現し、指数形式を使用しないようにしたいと考えています。本質的に、私は浮動小数点数を表示し、それが「見栄えがする」ことを確認したいと考えています。

この問題にはいくつかの部分があります。

これを行う 1 つの方法を見つけましたが、これは回避策のように見え、完全ではありません。(最大精度は有効数字 15 桁です。)

これを行うより良い方法はありますか?Python にこのための組み込み関数がないのはなぜですか?

0 投票する
4 に答える
9536 参照

c# - 文字列形式 有効数字付き %

String.Format を使用してパーセンテージを表示するために次のコードを使用していますが、有効数字の数を 2 に制限したいのですが、2 つがうまく連携していないようです。2つを適切に連携させるにはどうすればよいですか?

だから私が理想的に欲しいのはこのようなものです

0 投票する
8 に答える
7140 参照

ruby - 整数を切り上げる方法ルビーで?

次の番号のいずれかがあるとします。

230957 または 83487 または 4785

Rubyでそれぞれ300000または90000または5000として返す方法は何ですか?

0 投票する
24 に答える
274534 参照

python - Pythonで数値を有効数字に丸める方法

UIに表示するには、フロートを丸める必要があります。たとえば、1つの有効数字に:

Pythonライブラリを使用してこれを行うための良い方法はありますか、それとも自分で作成する必要がありますか?