問題タブ [significant-digits]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
r - r pasteまたはpaste0を使用するときに0.0を維持する
これは簡単な質問ですが、解決策が見つからないことに悩まされ始めています....
pasteまたはpaste0を使用するときに出力として使用するときに0.0を保持できるようにしたいので、次の場合:
私は得る:
しかし欲しい:
c++ - 設定された精度で数値を文字列ストリームから文字列に変換します
stringstream から数値を取得し、有効数字を 5 桁に設定したいと思います。どうすればいいですか?これまでのところ、これは私が思いついたものです:
ただし、これはコンパイルではありません。ありがとう。
asp.net - 計算の有効数字N桁を表示するよりエレガントな方法は何ですか?
数値の有効数字の最後の6桁を表示するために、次の関数を作成しました。
たとえば、182736734,6と入力すると、736734になります。
これを行うためのより効率的な方法があると確信しており、いくつかの提案が必要です。
ありがとう。
c# - 小数点以下2桁を表示します(有効数字が多い場合を除く)
重複の可能性:
フロートを少なくとも小数点以下1桁の文字列として表示する
次の値が与えられます。
- 23.50
- 15
- 19.3500
- 31.505
- 45.6670
次の表示を実現するにはどうすればよいですか。
- 23.50
- 15.00
- 19.35
- 31.505
- 45.667
私がやろうとしているのは、より多くの「有効数字」がない限り、小数点以下2桁を強制することです。その場合は、それらも表示したいと思います。
注:値は現在、として保存されていますDecimal?
delphi-2007 - 10 進数字ではなく有効数字を指定して (G 形式ではなく)、Delphi で float を文字列に変換する方法
私は通常、特定の 10 進数の桁数で数値を出力しますが、ここでは、指定された有効桁数で数値を出力する必要があります。数値は「1.2 E0」ではなく「1.23」のようにする必要があります。Delphi は G 形式で後者を行うようですが、前者の形式でこれを行う方法がわかりません。
python - Python 数学の有意水準
私は2つの値でロードしたデータセットから持っています。
と
確かにこれらは小さな数字ですが、私がやりたいのはそれらを平均することだけです。
しかし、これは avg = 0 を与えます
アー!
r - ゼロに近い小さな量をゼロとして表示するために、出力の数値を丸めます
R コンソールの出力を読みやすくしたいと思います。この目的のために、R にすべての数値を最も近い小数点以下 N 桁に四捨五入してもらいたいと考えています。私はいくつかの成功を収めていますが、完全には機能しません:
0.000000001 を単に 0 として表示したいのですが、どうすればよいですか? もっと具体的に言えば、R セッション全体のグローバルな修正が必要です。丸めることで変更を開始できることはわかっていますが、セッション全体で単純に設定するよりも役に立ちません。
r - より有効な数字
Rで有効桁数を増やすにはどうすればよいですか? 具体的には、次の例があります。
ただし、p値を取得すると:
明らかに、p 値は 0 ではありません。多くの確率を合計しているので、実際には 1.967673e-32 よりも大きいはずです。余分な精度を得るにはどうすればよいですか?
python - Pythonの有効数字とフロート
コンピューターがこれを計算する場合、1.1 + 2.2 が 3.3 ではない理由がわかりません。私は二項浮動小数点の働きを理解しようとしています..しかし、その浮動小数点数が原因であるかどうかさえわかりません。これを説明してもらえますか?, 明確な説明を見つけることができませんでした.