問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
1775 参照

floating-point - 行列行列ベクトル積 AB u を計算する精度が高いのはどれですか?

ベクトルを計算したいのですが、

s = ABu、

ここで、s と u は N 次元の複素ベクトル、A は N 行 M 列の複素行列、B は M 行 N 列の複素行列です。A、B、および u の要素が浮動小数点数として表される場合、次の 2 つの方法のうち、精度が高い (有効桁数が多い) のはどれですか?

(1) 最初に B u を計算します。

最初に行列とベクトルの乗算を行います。

y = ブウ

次に、別の行列ベクトル乗算

s = Ay

(2) 最初に AB を計算します。

最初に行列 - 行列の乗算を行い、

C = AB

次に、行列とベクトルの乗算

s = Cu

既知の一般的なルールはありますか?

ちなみに、方法(1)の方が方法(2)よりもはるかに効率的であることは理解しています。

0 投票する
1 に答える
173 参照

printing - py3k 有効数字を出力

Python3 では、有効数字を設定する良い方法があります。つまり、リストがある場合:

素敵な新しい印刷システムを使用して、

しかし、実行せずにsigfigを設定する方法については不明です

ただ言うために印刷するオプションがあるかどうか疑問に思っていました-すべてのフロートを2 dpに印刷しますか?

ループを使用できると思いますが、それはPythonのようではないようです

0 投票する
5 に答える
9462 参照

python - Pythonで有効数字を数えますか?

Pythonでdouble/float / etcの有効数字を数える方法はありますか?これを行う簡単な方法はわかりませんが、ライブラリにあると思います。

前もって感謝します。

0 投票する
7 に答える
7177 参照

ruby - Rubyでfloatを指定された有効桁数に丸めるにはどうすればよいですか?

R の signif関数に相当するものが Ruby にあるといいですね。

例えば:

0 投票する
3 に答える
197 参照

c++ - 有効数字の増加

さあ、

dt私はテキストファイルから次のように読みました

次に、次のようなforループがあります。

私が得たdt=0.05出力をすると、std::cout << time << std::endl;

では、なぜしばらくして桁数が増えているのでしょうか。

0 投票する
3 に答える
4465 参照

c++ - ループなしで C++ の int から n 個の最上位のゼロ以外のビットを抽出する

C++ の整数から最上位 n ビットを抽出し、それらの n ビットを整数に変換したいと考えています。

例えば

ここで、その表現から最上位 4 桁、つまり 1111 を抽出したいと思います。

それらを再び整数に変換します (10 進数で 1001 = 9)。

ループのない単純な C++ 関数でどのように可能ですか?

0 投票する
3 に答える
4587 参照

iphone - 最大3桁を表示するNSNumberFormatter

UILabelの1つに最大3桁しか表示されないようにしたいと思います。したがって、関連付けられた値が3.224789の場合、3.22が表示されます。値が12.563の場合、12.5が表示され、値が298.38912の場合、298が表示されます。これを実現するためにNSNumberFormatterを使用しようとしていますが、有効桁数の最大値を3に設定すると常に小数点以下3桁です。コードは次のとおりです。

私はいつも「有効数字」は小数点の前後のすべての数字を意味すると思っていました。とにかく、NSNumberFormatterを使用してこれを達成する方法はありますか?

ありがとう!

0 投票する
1 に答える
1258 参照

fortran90 - FORTRAN90 で有効数字を 7 桁まで取得するにはどうすればよいですか?

の中に 5 か 6 と書くSELECTED_REAL_KINDと有効数字が 6 桁になるのに 7 と書くと 7 桁以上になってしまうのですが、その理由を教えてください。どこで間違えたの?割り当ては問題がありますか?

5、6出力あり→1.39256

7 出力あり -> 1.3925623893

わかりました、私は簡単な質問をしています。この数値 1.3925623893 の有効数字 7 桁を出力するにはどうすればよいですか?

0 投票する
2 に答える
1169 参照

java - Java - 計算ステートメントの結果を有効数字 2 桁に丸める方法

Java は初めてで、プログラミングは比較的新しいです。以下のコードは、すでに完全に実行されているプログラムの最後の数行です。最終結果 (newTuition 変数) を四捨五入して、有効数字 2 桁に制限したいだけです。

newTuition、TUITIONINCREASE、tuition はすべて 2 倍です。

0 投票する
2 に答える
948 参照

jquery - 有効数字2桁のjQueryカウントダウンコンパクト

コンパクトなカウントダウンを有効数字 2 桁で表示すると、次のように表示されます。

「2d 12:00:00」と分/秒は「00」のままです。代わりに「2d 12h」のようなものを表示するにはどうすればよいですか?

奇妙なことに、コンパクトでない出力を使用すると、すべてが期待どおりに機能します。つまり、「2 日 12 時間」しか表示されません。