問題タブ [significant-digits]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
floating-point - 行列行列ベクトル積 AB u を計算する精度が高いのはどれですか?
ベクトルを計算したいのですが、
s = ABu、
ここで、s と u は N 次元の複素ベクトル、A は N 行 M 列の複素行列、B は M 行 N 列の複素行列です。A、B、および u の要素が浮動小数点数として表される場合、次の 2 つの方法のうち、精度が高い (有効桁数が多い) のはどれですか?
(1) 最初に B u を計算します。
最初に行列とベクトルの乗算を行います。
y = ブウ
次に、別の行列ベクトル乗算
s = Ay
(2) 最初に AB を計算します。
最初に行列 - 行列の乗算を行い、
C = AB
次に、行列とベクトルの乗算
s = Cu
既知の一般的なルールはありますか?
ちなみに、方法(1)の方が方法(2)よりもはるかに効率的であることは理解しています。
printing - py3k 有効数字を出力
Python3 では、有効数字を設定する良い方法があります。つまり、リストがある場合:
素敵な新しい印刷システムを使用して、
しかし、実行せずにsigfigを設定する方法については不明です
ただ言うために印刷するオプションがあるかどうか疑問に思っていました-すべてのフロートを2 dpに印刷しますか?
ループを使用できると思いますが、それはPythonのようではないようです
python - Pythonで有効数字を数えますか?
Pythonでdouble/float / etcの有効数字を数える方法はありますか?これを行う簡単な方法はわかりませんが、ライブラリにあると思います。
前もって感謝します。
ruby - Rubyでfloatを指定された有効桁数に丸めるにはどうすればよいですか?
R の signif関数に相当するものが Ruby にあるといいですね。
例えば:
c++ - 有効数字の増加
さあ、
dt
私はテキストファイルから次のように読みました
次に、次のようなfor
ループがあります。
私が得たdt=0.05
出力をすると、std::cout << time << std::endl;
では、なぜしばらくして桁数が増えているのでしょうか。
c++ - ループなしで C++ の int から n 個の最上位のゼロ以外のビットを抽出する
C++ の整数から最上位 n ビットを抽出し、それらの n ビットを整数に変換したいと考えています。
例えば
ここで、その表現から最上位 4 桁、つまり 1111 を抽出したいと思います。
それらを再び整数に変換します (10 進数で 1001 = 9)。
ループのない単純な C++ 関数でどのように可能ですか?
iphone - 最大3桁を表示するNSNumberFormatter
UILabelの1つに最大3桁しか表示されないようにしたいと思います。したがって、関連付けられた値が3.224789の場合、3.22が表示されます。値が12.563の場合、12.5が表示され、値が298.38912の場合、298が表示されます。これを実現するためにNSNumberFormatterを使用しようとしていますが、有効桁数の最大値を3に設定すると常に小数点以下3桁です。コードは次のとおりです。
私はいつも「有効数字」は小数点の前後のすべての数字を意味すると思っていました。とにかく、NSNumberFormatterを使用してこれを達成する方法はありますか?
ありがとう!
fortran90 - FORTRAN90 で有効数字を 7 桁まで取得するにはどうすればよいですか?
の中に 5 か 6 と書くSELECTED_REAL_KIND
と有効数字が 6 桁になるのに 7 と書くと 7 桁以上になってしまうのですが、その理由を教えてください。どこで間違えたの?割り当ては問題がありますか?
5、6出力あり→1.39256
7 出力あり -> 1.3925623893
わかりました、私は簡単な質問をしています。この数値 1.3925623893 の有効数字 7 桁を出力するにはどうすればよいですか?
java - Java - 計算ステートメントの結果を有効数字 2 桁に丸める方法
Java は初めてで、プログラミングは比較的新しいです。以下のコードは、すでに完全に実行されているプログラムの最後の数行です。最終結果 (newTuition 変数) を四捨五入して、有効数字 2 桁に制限したいだけです。
newTuition、TUITIONINCREASE、tuition はすべて 2 倍です。
jquery - 有効数字2桁のjQueryカウントダウンコンパクト
コンパクトなカウントダウンを有効数字 2 桁で表示すると、次のように表示されます。
「2d 12:00:00」と分/秒は「00」のままです。代わりに「2d 12h」のようなものを表示するにはどうすればよいですか?
奇妙なことに、コンパクトでない出力を使用すると、すべてが期待どおりに機能します。つまり、「2 日 12 時間」しか表示されません。