問題タブ [significant-digits]

ウィキペディアによると、binary32形式の有効桁数は6 ～ 9桁で、64 形式の精度は15 ～ 17 です。

これらの有効な 10 進数は仮数を使用して計算されていることがわかりましたが、どうすれば計算できますか? 何か案が ？

32bit形式の仮数＝24bit、64bit形式の仮数＝53bit

float浮動小数点数 (つまり、double、またはlong double) の精度の値が 1 つだけなのか、それともさまざまな精度の値を持つのかについて、さまざまな回答が得られます。

float vs. double precisionと呼ばれる 1 つのトピックは、浮動小数点の精度が絶対的なものであることを暗示しているようです。

ただし、 float と double の違いという別のトピックでは、

一般に、double の精度は15 ～ 16桁です。

別の情報筋によると、

通常、float 型の変数の精度は有効桁数約7 桁です。

通常、double 型の変数の精度は有効桁数約16 桁です。

私の値が正確でない場合に簡単に壊れる可能性のある機密性の高いコードを使用している場合、上記のような近似値を参照するのは好きではありません。それでは、記録をまっすぐに立てましょう。浮動小数点精度は変更可能または不変ですか? またその理由は?

浮動小数点数の 2 つの異なる精度式に出くわしました。

⌊(N-1) log ₁₀ (2)⌋ = 10 進数 6 桁(単精度)

と

N log ₁₀ (2) ≒ 7.225 桁(単精度)

ここで、N = 24有効ビット(単精度)

最初の式は、 W. Kahan 教授によって書かれた「バイナリ浮動小数点演算の IEEE 標準 754」の 4 ページの上部にあります。

2 番目の式は、ウィキペディアの記事「単精度浮動小数点形式」のセクションIEEE 754 単精度バイナリ浮動小数点形式: binary32 にあります。

最初の式について、W. Kahan 教授は次のように述べています。

最大 6 sigの 10 進文字列の場合。12月 Single に変換されてから、同じ数の sig に戻されます。dec. の場合、最後の文字列は元の文字列と一致する必要があります。

2番目の式について、ウィキペディアは言う

...全体の精度は 24 ビットです (log ₁₀ (2 ²⁴ ) ≈ 7.225 10 進数に相当)。

両方の式の結果 (10 進数の 6 桁と 7.225 桁) は異なりますが、どちらも浮動小数点バイナリに変換してから元に戻すことができる最上位の 10 進数を表すことを意図していると想定したため、同じであると予想しました。開始時と同じ有効桁数で 10 進数に変換します。

これらの 2 つの数値が異なるのはなぜですか? また、2 進数に変換して 10 進数に戻しても意味を失わない最上位の 10 進数の精度は何ですか?

との組み合わせを使用して、xtableさまざまなオブジェクト ( 、 、など) の要約テーブルを Latex/Word/Powerpoint にエクスポートしています。ただし、コンマの後に固定桁数で p 値を指定するデフォルトの方法はあまり好きではありません。代わりに、ベース R 関数で得られるものと同様の形式で p 値を取得することをお勧めします。つまり、有効数字 2 桁に丸められた p 値 (この場合は 4.2e-17 と 0.25) を取得します。rtableReporteRsaovglmlmformat.pval()digits=2

例えば

ただし、p 値を と同様の方法でフォーマットしたいと思いますsummary(fit)(右揃えで、有効数字 2 桁に丸められます。この場合は 4.2e-17 と 0.25)。理想的には、サポートされているすべてのオブジェクトによって与えられた p 値に対して、これを一般的な方法でどのように達成できるか考えている人はいますxtableか?

編集: 以下の助けを借りて、ヘルパー関数を使用して [小さなパッケージ] を作成し、export以前に表示された R 統計オブジェクトを Word、Powerpoint、または HTML にエクスポートします (関数を使用して、現在アクティブなグラフを Powerpoint または Word にエクスポートします)。https://cran.r-project.org/web/packages/export/index.htmlおよび https://github.com/tomwenseleers/exportを参照 してくださいtable2doctable2ppttable2htmlgraph2pptgraph2doc

pyplot を使用してプロットされた関数があります。カーソルをウィンドウ上に移動すると、ウィンドウの左下にカーソルの位置の X と Y の値が表示されます (たとえば、x = 4.27567e+06 y = 6.98764e- のように表示されます)。 09)。

これらの値の有効桁数を変更するにはどうすればよいですか? 軸の設定と目盛りの設定で遊んでみましたが、役に立たないようです。

上記の例でわかるように、現在の解像度は有効数字 6 桁ですが、8 桁以上の解像度が必要です。

参考までに、プロットしている配列には、表示する必要があるものよりもはるかに小さい間隔で区切られたポイントがあるため、それは問題ではありません。

これを行うためのコマンドがmatplotlibにありますか?

ありがとう。

データセットにつながった計算を再現しようとしていますdata.ref。参照データを計算結果と比較して、現在の実装がどの程度うまく機能するかをテストしたいと思いますdata.my。データの各列は、列内で同等の大きさを持つ必要がありますが、必ずしも列間である必要はありません。

同等の規模でエラーを配置します。ただし、データは最終的に四捨五入されるため、私が実際にやりたいことは、データが一致する有効数字の数をすばやくチェックすることです。つまり、私はとが非常に近いと予想data.refしているので、次の質問に答えてください:対応するエントリの各ペアが異なる最初の有効数字は何ですか?data.my

これを行うR関数はありますか?

一連の値を計算するプログラムを作成しましたが、すべての値が特に長い double です。これらの値をそれぞれ 15 の有効数字で表示したいと思います。私が抱えている問題を説明するコードは次のとおりです。

setprecision だけでは末尾のゼロが表示されないため、このサイトの他の回答で見たように固定を追加しました。しかし、今では小数点以下 15 桁のように見え、値が 0 ではない場合、これは私が望むものではありません。上記の出力からこれを確認できます。

最初の数値には 15 個のシグフィグがありますが、2 番目の数値には 16 個あります。これを解決するにはどうすればよいですか?

編集: setprecision を使用するように具体的に求められているため、cout.precision を試すことができません。