テキスト ファイルから読み取る必要がある 656364.53 のような値があります。私のプログラミング経験から、値はdouble
データ型を取り、適切な値として保持されることを学びました。
ただし、単精度値python
のみか、あるようです。float
したがって、私の経験によると、これらの値は読み取り時に変更されます。
Python で倍精度値を取得するにはどうすればよいですか。
このデータに対して数学演算を実行し、精度が問題になる場合は、浮動小数点エラーで問題があった10 進数データ型を確認することをお勧めします。
Decimal 「人々を念頭に置いて設計された浮動小数点モデルに基づいており、必然的に最も重要な指針となる原則があります。コンピューターは、人々が学校で学ぶ算術と同じように機能する算術演算を提供する必要があります。」</p >