問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
3 に答える
1133 参照

vb.net - 数値を四捨五入しますが、正確な数字を維持します

この Rounded(50.080, 3) のようにこの関数を呼び出すと、「50.08」が表示されます。末尾のゼロを強制的に保持するにはどうすればよいですか?

0 投票する
2 に答える
250 参照

c++ - C++ の ostream または fprintf の意味

次のようなファイルへの出力を取得しようとしています。

言い換えれば、精度ではなく、出力の重要性を設定しようとします。私はもう試した

無駄に。

どんな助けでも大歓迎です。

乾杯

編集:不完全な質問で申し訳ありません。最小限、完全、かつ検証可能な例を次に示します。

したがって、精度に関係なく、すべての場合で最大6桁の有効数字が必要です。つまり、次のようになります。

わかりましたので、各変数を小数点から乗算し、減算して、小数点に戻しました。これはうまくいくようです。C++ で意味を設定する機能がないように見えるのはクレイジーです。

0 投票する
1 に答える
2100 参照

python - Python の有効数字について

こんにちは、少し変わった質問があります。数値のリスト (物理的な測定値を表す) を変換しています。それぞれの数値は、元の研究に応じて、任意の単位で指定された精度で報告されます。これが私が意味することの例です:

これらはもちろんタイプです:

たとえば、最後の番号を出力すると、次のようになります。

ただし、この方法でアクセスすると、次のようになります。

float はデフォルトで 64 ビットであることを理解しています。したがって、float を使用して計算を行う (つまり、この測定値のリストを変換する) と、64 ビットの変換値が返されます。変換された値の例を次に示します。

どちらの方法 (print を使用するかどうかに関係なく) にアクセスすると、64 ビットの数値が返されます。しかし、明らかに何か他のことが起こっています。そうしないと、印刷関数は実際の測定値を表示する方法を本当に知りません。元の測定値と同じレベルの精度に変換された値を報告したいと思います。Pythonでこれを行う方法はありますか?

0 投票する
1 に答える
4276 参照

python - Pythonで最下位桁を見つける方法

私が探しているのは、できれば簡単な方法で、数値の最下位桁 (浮動小数点または整数) を見つけることです。

例えば:

101 --> 1

101.2 --> 0.2

1.1003 --> 0.0003

10、100、1000 などのケースは関連性がやや低くなりますが、いずれにしても興味があります。

形式は特に気にしないので、より実用的な方法で結果を特定する方が理にかなっている場合は、お気軽に。

例えば:

101.2 --> 0.1 または 10^-1 (または、関連する累乗/指数の場合は -1) で問題ありません。

追加のコンテキストについては、私がやろうとしていること:

数字 31.6 を 31.5 に変換できるようにしたいとしましょう (最下位桁を 1 減らします)。16 という数字を持っているとしましょう。それを 15 に変えたいと思います (同じ考えです)。数字が 100 の場合でも、それを 99 に変換したいのですが、おそらくそこでの処理を理解できます (100.0 を指定しなくても、1 が最下位桁であり、1 を減らすと 0 になりますが、これはそうではありません)。私が欲しいもの)。これは、データ範囲内のクラス ブレークを手動で操作することに関連しています (トピックからは外れますが)。

私の宿題を示す: これは有望に見えますが(leastSigDigit の部分)、数字の累乗への (数学的な) 参照なしで数字を返します (多くの文字列変換も避けたいと思っています)。

これは、 stackoverflow を検索したときに出てきたものですが、役に立たないようです (間違った用語/検索フレーズを使用している場合は、事前にお詫びします)。

0 投票する
2 に答える
89082 参照

python - matplotlib プロットの軸に小数点以下の桁数と指数表記を表示する

Python 2.7を使用して、pyqtプログラムでmatplotlibを使用していくつかの大きな数字をプロットしています。1e+18 から 3e+18 (通常) の範囲の y 軸があります。各目盛りが科学表記法と小数点以下 2 桁で値を表示するようにしたいと思います。たとえば、2e+18 と 3e+18 の間の値は、いくつかの目盛りで 2e+18 としか読み取れないため、2e+18 だけではなく 2.35e+18 となります。これがその問題の例です。

0 投票する
2 に答える
639 参照

regex - 有効桁数が固定された float の正規表現

有効数字の最大数 (たとえば 4) が固定された float の正規表現を見つけようとしています。

これは次と一致する必要があります。

問題は、ドットの前後の非ゼロの数が合計で最大 4 つでなければならないことです。

私は問題を分割しようとし、ケースの解決策を見つけました:

しかし、有効数字がドットの前後にある場合の解決策は見つかりませんでした。( examples: 1.23 2.345)


更新:解決策を見つけたと思います:

0 投票する
2 に答える
268 参照

c# - 大きな double をフォーマットして有効数字 4 桁を表示する

たとえば、大きなダブルがあります345533345.8993。ただし、4 桁の精度しかない測定値で double が計算されます。したがって、私の結果では、保証されている桁数を表示したいと思い3455 * 10^5ます。

私は自分で何かを書くことができますが、これを行うための標準的な方法を探しています。この重要な測定値をレンダリングする方法はありますか?

0 投票する
1 に答える
12979 参照

matlab - 有効数字 n 桁への丸め

数値を特定の(私が尋ねるように)有効数字に丸めるコードをMATLABで記述しようとしています。

どうすればいいのかわからない。助言がありますか?

0 投票する
4 に答える
4816 参照

javascript - 小数点以下が 2 桁になるように float を丸めるにはどうすればよいですか?

私は 137.57667565656 のような浮動小数点数を持っていますが、新しい浮動小数点数が 137.58 になるように、小数点以下の桁数が 2 桁になるように丸めたいと考えています。

私はこれまでにこれを試しました:

しかし、残念ながら、私の値は 137.00 に丸められます。小数点以下の桁数をゼロとして追加するのはなぜですか?

上記を達成するにはどうすればよいですか?