1

「\px」コマンドがすべての計算の精度を設定することは知っていますが、少し違うものを探しています。高精度で計算された数値が与えられた場合、コードの一部だけを低精度に丸めたいと思います。この理由は、複素数の絶対値をとると、後で問題を引き起こす丸め誤差が発生する傾向があるためです。私はそれらの絶対値が同じであり、それらが現在持っているごくわずかなエラーがないことを望んでいます。

つまり、特定の番号に対して1.xxxxxxxxxxxxxx-> 1.xxxxxxxを作成するにはどうすればよいですか?

4

1 に答える 1

2

最も簡単な解決策は

z * precision(1., 100)

z のコンポーネントを 100 桁の相対精度で切り捨てます。印刷目的で、printf("%m.nf", z)標準的な意味で使用することもできます。

于 2013-04-05T15:53:52.780 に答える