「\px」コマンドがすべての計算の精度を設定することは知っていますが、少し違うものを探しています。高精度で計算された数値が与えられた場合、コードの一部だけを低精度に丸めたいと思います。この理由は、複素数の絶対値をとると、後で問題を引き起こす丸め誤差が発生する傾向があるためです。私はそれらの絶対値が同じであり、それらが現在持っているごくわずかなエラーがないことを望んでいます。
つまり、特定の番号に対して1.xxxxxxxxxxxxxx-> 1.xxxxxxxを作成するにはどうすればよいですか?
「\px」コマンドがすべての計算の精度を設定することは知っていますが、少し違うものを探しています。高精度で計算された数値が与えられた場合、コードの一部だけを低精度に丸めたいと思います。この理由は、複素数の絶対値をとると、後で問題を引き起こす丸め誤差が発生する傾向があるためです。私はそれらの絶対値が同じであり、それらが現在持っているごくわずかなエラーがないことを望んでいます。
つまり、特定の番号に対して1.xxxxxxxxxxxxxx-> 1.xxxxxxxを作成するにはどうすればよいですか?