そこで、問題を解決するための Python スクリプトをいくつか作成して、物理学の宿題を解決しようと決心しました。私が直面している問題の 1 つは、有効数字が常に適切に表示されるとは限らないことです。たとえば、これは有効数字を適切に処理します。
from decimal import Decimal
>>> Decimal('1.0') + Decimal('2.0')
Decimal("3.0")
しかし、これはしません:
>>> Decimal('1.00') / Decimal('3.00')
Decimal("0.3333333333333333333333333333")
だから2つの質問:
- これは有効数字の予想される量ではないというのは正しいですか、それとも有効数字の計算をブラッシュアップする必要がありますか?
- 小数の精度を手動で設定せずにこれを行う方法はありますか? 確かに、numpy を使用してこれを行うことができると確信していますが、好奇心から decimal モジュールでこれを行う方法があるかどうかを知りたいだけです。