問題タブ [significant-digits]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - C# で有効数字を使用して数値をフォーマットする
表示する SharePoint リストにプッシュする 10 進データがいくつかあります。特定の計算に関する知識に基づいて、結果データに表示される有効数字の数を制限したいと考えています。時々 3 になるので、12345 は 12300 になり、0.012345 は 0.0123 になります。場合によっては 4 または 5 になります。これを処理する便利な方法はありますか?
algorithm - 任意の有効桁数への丸め
任意の数値 (整数 > 0 だけでなく) を有効数字 N 桁に丸めるにはどうすればよいですか?
たとえば、有効数字 3 桁に丸めたい場合は、次のような式を探しています。
1,239,451 を返し、1,240,000 を返します
12.1257 と 12.1 を返します
.0681 とリターン .0681
5 して 5 を返す
当然のことながら、アルゴリズムは 3 の N のみを処理するようにハードコーディングされるべきではありませんが、それは出発点になります。
c# - double を有効数字 x に丸める
double (234.004223) などがある場合、これを C# で有効桁数 x に丸めたいと思います。
これまでのところ、小数点以下 x 桁に丸める方法しか見つけることができませんが、数値に 0 がある場合、これは単純に精度を削除します。
例えば、0.086~小数点以下1桁は0.1になりますが、0.08のままでお願いしたいです。
sql - SQLの有効数字をnに四捨五入
SQLで有効数字をnに四捨五入できるようにしたいと思います。それで:
有効数字ではなく小数点以下n桁に丸めるROUND()関数を知っています。
c - 最下位桁から最上位桁までの数値の配列を出力しますか?
最下位桁から最上位桁まで (x 軸に表示されている数字のように) どのように数値を出力しますか? ありがとうございました
python - Pythonで浮動小数点数をうまく表現する
浮動小数点数を有効桁数に丸めた文字列として表現し、指数形式を使用しないようにしたいと考えています。本質的に、私は浮動小数点数を表示し、それが「見栄えがする」ことを確認したいと考えています。
この問題にはいくつかの部分があります。
- 有効桁数を指定できるようにする必要があります。
- 有効桁数は可変である必要がありますが、これは文字列書式設定 operatorでは実行できません。[編集] 修正しました。文字列フォーマット演算子はこれを行うことができます。
- 1.999999999999のようなものではなく、人が期待する方法で丸める必要があります
これを行う 1 つの方法を見つけましたが、これは回避策のように見え、完全ではありません。(最大精度は有効数字 15 桁です。)
これを行うより良い方法はありますか?Python にこのための組み込み関数がないのはなぜですか?
c# - 文字列形式 有効数字付き %
String.Format を使用してパーセンテージを表示するために次のコードを使用していますが、有効数字の数を 2 に制限したいのですが、2 つがうまく連携していないようです。2つを適切に連携させるにはどうすればよいですか?
だから私が理想的に欲しいのはこのようなものです
ruby - 整数を切り上げる方法ルビーで?
次の番号のいずれかがあるとします。
230957 または 83487 または 4785
Rubyでそれぞれ300000または90000または5000として返す方法は何ですか?
python - Pythonで数値を有効数字に丸める方法
UIに表示するには、フロートを丸める必要があります。たとえば、1つの有効数字に:
Pythonライブラリを使用してこれを行うための良い方法はありますか、それとも自分で作成する必要がありますか?