問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
3 に答える
3763 参照

r - r pasteまたはpaste0を使用するときに0.0を維持する

これは簡単な質問ですが、解決策が見つからないことに悩まされ始めています....

pasteまたはpaste0を使用するときに出力として使用するときに0.0を保持できるようにしたいので、次の場合:

私は得る:

しかし欲しい:

0 投票する
4 に答える
15195 参照

c++ - 設定された精度で数値を文字列ストリームから文字列に変換します

stringstream から数値を取得し、有効数字を 5 桁に設定したいと思います。どうすればいいですか?これまでのところ、これは私が思いついたものです:

ただし、これはコンパイルではありません。ありがとう。

0 投票する
2 に答える
55 参照

asp.net - 計算の有効数字N桁を表示するよりエレガントな方法は何ですか?

数値の有効数字の最後の6桁を表示するために、次の関数を作成しました。

たとえば、182736734,6と入力すると、736734になります。

これを行うためのより効率的な方法があると確信しており、いくつかの提案が必要です。

ありがとう。

0 投票する
1 に答える
1094 参照

c# - 小数点以下2桁を表示します(有効数字が多い場合を除く)

重複の可能性:
フロートを少なくとも小数点以下1桁の文字列として表示する

次の値が与えられます。

  • 23.50
  • 15
  • 19.3500
  • 31.505
  • 45.6670

次の表示を実現するにはどうすればよいですか。

  • 23.50
  • 15.00
  • 19.35
  • 31.505
  • 45.667

私がやろうとしているのは、より多くの「有効数字」がない限り、小数点以下2桁を強制することです。その場合は、それらも表示したいと思います。

注:値は現在、として保存されていますDecimal?

0 投票する
2 に答える
2485 参照

delphi-2007 - 10 進数字ではなく有効数字を指定して (G 形式ではなく)、Delphi で float を文字列に変換する方法

私は通常、特定の 10 進数の桁数で数値を出力しますが、ここでは、指定された有効桁数で数値を出力する必要があります。数値は「1.2 E0」ではなく「1.23」のようにする必要があります。Delphi は G 形式で後者を行うようですが、前者の形式でこれを行う方法がわかりません。

0 投票する
2 に答える
300 参照

python - Python 数学の有意水準

私は2つの値でロードしたデータセットから持っています。

確かにこれらは小さな数字ですが、私がやりたいのはそれらを平均することだけです。

しかし、これは avg = 0 を与えます

アー!

0 投票する
3 に答える
1477 参照

r - ゼロに近い小さな量をゼロとして表示するために、出力の数値を丸めます

R コンソールの出力を読みやすくしたいと思います。この目的のために、R にすべての数値を最も近い小数点以下 N 桁に四捨五入してもらいたいと考えています。私はいくつかの成功を収めていますが、完全には機能しません:

0.000000001 を単に 0 として表示したいのですが、どうすればよいですか? もっと具体的に言えば、R セッション全体のグローバルな修正が必要です。丸めることで変更を開始できることはわかっていますが、セッション全体で単純に設定するよりも役に立ちません。

0 投票する
1 に答える
1052 参照

r - より有効な数字

Rで有効桁数を増やすにはどうすればよいですか? 具体的には、次の例があります。

ただし、p値を取得すると:

明らかに、p 値は 0 ではありません。多くの確率を合計しているので、実際には 1.967673e-32 よりも大きいはずです。余分な精度を得るにはどうすればよいですか?

0 投票する
0 に答える
153 参照

python - Pythonの有効数字とフロート

コンピューターがこれを計算する場合、1.1 + 2.2 が 3.3 ではない理由がわかりません。私は二項浮動小数点の働きを理解しようとしています..しかし、その浮動小数点数が原因であるかどうかさえわかりません。これを説明してもらえますか?, 明確な説明を見つけることができませんでした.