問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
0 に答える
991 参照

iphone - 有効数字のみを表示するフロートを作成するにはどうすればよいですか? Objective C

たとえそれが丸数であっても、その後に特定の小数点以下の桁数で表示される浮動小数点数があります。末尾のゼロなしで有効数字のみを表示するようにフォーマットするにはどうすればよいですか。

0 投票する
6 に答える
12178 参照

python - Pythonで2桁の10進数でリストをcsvに保存しますか?

次のようなデータがあります

次の行でcsvに保存しています:

値を 2 桁の 10 進数だけで表示したいことを除けば、魅力的に機能します。コードの前半で、データを取得するために 2 つのリストを圧縮しました。そのため、必要に応じて事前に変更を加えることができます。

ありがとう!

0 投票する
2 に答える
6909 参照

java - 有効数字を表示する組み込みメソッド

有効数字による丸めに関する多くの質問と、次のような丸めを行うための新しい方法を提供する回答がありました。

任意の有効桁数への丸め

double を小数点以下 2 桁に丸める

これらの質問と解決策のほとんどは、2009 ~ 2010 年頃のものです。

数値と有効数字を指定して、指定された有効数字に制限された数値を出力する単純な組み込みメソッド (または Apache や Spring などのよく知られている標準ライブラリから) が必要です。

すなわち:

  • 123.456789 // 有効数字 2 桁: 120
  • 123.456789 // 有効数字 4 桁: 123.4
  • 123.456789 // 有効数字 7 桁: 123.4567
0 投票する
4 に答える
9232 参照

c - C で最下位ビットを設定する

bmp イメージを使用して C で簡単なステガノグラフィ ツールを作成します。

イメージをメモリに読み取り、テキストを char バイト [8] で一度に 1 文字ずつ非表示にします。

例えば。

次に、最初の画像バイト(char *ptr points毎回)に移動してバイト[0]をLSBに配置し、次に次のものなどを配置します.

*ptr=0xff or 0b11111111最後の 1 を 0 に設定する必要がある 場合。

ただし、*ptr = 0x00または0b00000000xorが機能しない場合0^1=1

ケースをどうしようか迷っています。LSB が 1 または 0 の場合に毎回 0 の最後のビットを作成し、他のビットに触れないようにする演算子が必要です。

0 投票する
2 に答える
1114 参照

java - Javaの二重リテラルには有効桁数を何桁使用する必要がありますか?

doubleJava でリテラルを定義するとき、有効桁数を何桁使用する必要がありますか? これは、double が保持できるよりも有効な数字で数値を表現しようとしていると仮定しています。

I see 20Math.javaと 21:

これは、IEEE 754 が提供する 15 ~ 17 桁の有効数字よりも多い数字です。一般的な経験則は何ですか?