問題タブ [significant-digits]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
369 参照

c# - 10 進数の有効数字を確認する

小数の有効数字 4 桁目に値があるかどうかを確認したい。

4 番目の重要な場所に値があるかどうかをテストするにはどうすればよいですか。

4位にゼロ以外の値があるかどうかに応じて、条件付きで小数点以下3桁または4桁を表示したい。

これを行う最善の方法は何ですか?

この方法は機能しますか?

0 投票する
3 に答える
2629 参照

java - 有効数字の数え方 java

私は有効数字を数えるプログラムを作成しようとしていますが、ほぼ完了しました。最後に完全に立ち往生していることが1つあります。ゼロ以外の数字の間のゼロを数える方法がわかりません。ここに私のコードがあります:

0 投票する
1 に答える
330 参照

java - BigDecimals を有効桁数に基づいて許容範囲内で比較する

2 つの があり、有効数字BigDecimalに基づいてそれらが近いかどうかを判断したいと思います。

たとえば、次のことを考慮してください。

生の数値では数千単位で区切られていても、有効桁数が 1 桁しか離れていないため、abが近い (そしてそうではない) と判断できるようにしたいと考えています。cこれを決定する最良の方法は何ですか?

たとえば、最下位桁を に置き換えることもできますが、それはそのままにして0しまうため、実際には正しい解決策ではありません。55.81 == 55.8955.89 != 55.90

0 投票する
2 に答える
1092 参照

vb.net - 数値の最後の桁をインクリメントする

VB2010 ユーザーが数値形式を入力するユーザーフォームがあります。次に、ルーチンは数値ペアのリストを循環し、それらをカテゴリのリストに表示します。

私がやろうとしているのは、最初の値を1桁増やして、重複がないようにすることです。何かのようなもの:

「0.000」や「0.0」など、ユーザーが入力する任意の数値形式で機能するようにしようとしています。私が現在持っているのは(値164.04の例)

私のVB6プログラムで動作しているように見えましたが、誰かがより良いアイデアを持っているかどうかを見たいと思っていました. また、最後の桁が9であることを説明したとは思いません。

更新:以下の提案に基づいて、正と負の数値と整数と浮動小数点数で機能するようになったのは次のとおりです。

0 投票する
4 に答える
1302 参照

c++ - 出力をこの形式である必要があります XXX.XXX c++

たとえば、三角形の面積が 6 である場合、出力に 006.000 を表示する必要があります。

setprecision が小数点以下の桁数を 3 に制限するトリックを行うことは知っていますが、ソリューションの前にゼロを配置するにはどうすればよいですか?

これは私が持っているものです

CTriangle Sides(3,4,5);

出力が

しかし、私のソリューションが何であるかに関係なく、すべての回答がこの形式 XXX.XXX である必要があります.(値が変わるため)

どんな助けでも大歓迎です、ありがとう!

0 投票する
1 に答える
1592 参照

r - Rを使用したGARCHモデルでのパラメーター推定の異なる重要性(rugarchおよびfGarchパッケージ)

私は、fGarch と rugarch の 2 つのパッケージを使用して、GARCH(1,1) モデルを 3980 の毎日のログ リターンで構成される為替レート時系列に適合させてきました。

2 つのモデルは、次の結果を示しています。

fGarch:

ルガーク:

スレッドhttp://r.789695.n4.nabble.com/Comparison-between-rugarch-and-fGarch-td4683770.htmlで見積もりが一致しない理由を見つけましたが、大きな違いはわかりません標準誤差で、オメガのさまざまな重要性を確認できます。オメガは重要でないままであるため、違いは定常性の制約によって引き起こされるものではありません。推定パラメータ (オメガ、アルファ、ベータ、および nu (形状)) の標準誤差がどのように計算されるか知っている人はいますか?