9

Python に浮動小数点数 (例: ) を含む変数があり、num = 24654.123(Oracle の意味で) 数値の精度とスケール値を決定したいので、123.45678 は (8,5) を、12.76 は私を与えるはずです。 (4,2)など

str私は最初に文字列表現を（または経由で）使用することを考えてreprいましたが、それらは大きな数では失敗します（ただし、ここでの問題は浮動小数点表現の制限であることを理解しています）：

>>> num = 1234567890.0987654321
>>> str(num) = 1234567890.1
>>> repr(num) = 1234567890.0987654

編集：

以下、良かった点。明確にする必要があります。数値はすでに浮動小数点数であり、cx_Oracle を介してデータベースにプッシュされています。INSERT を実行して Oracle エラーを処理する以外に、対応するデータベース タイプに対して大きすぎる float を処理するために、Python でできる限りのことをしようとしています (レコードではなくフィールドの数値を処理したいためです)。時間）。map(len, repr(num).split('.'))フロートの精度とスケールに最も近いと思いますか？

4

11 に答える 11

20

小数点の左側の桁数を取得するのは簡単です。

int(log10(x))+1

浮動小数点値には固有の不正確さがあるため、小数点の右側の桁数は扱いにくいものです。それを理解するには、あと数分かかります。

編集:その原則に基づいて、ここに完全なコードがあります。

import math

def precision_and_scale(x):
    max_digits = 14
    int_part = int(abs(x))
    magnitude = 1 if int_part == 0 else int(math.log10(int_part)) + 1
    if magnitude >= max_digits:
        return (magnitude, 0)
    frac_part = abs(x) - int_part
    multiplier = 10 ** (max_digits - magnitude)
    frac_digits = multiplier + int(multiplier * frac_part + 0.5)
    while frac_digits % 10 == 0:
        frac_digits /= 10
    scale = int(math.log10(frac_digits))
    return (magnitude + scale, scale)
于 2010-06-10T22:32:45.910 に答える
6

浮動小数点変数では使用できません。たとえば、

>>> 10.2345

与えます：

10.234500000000001

10.2345したがって、これから 6,4 を取得するには、ユーザーがとを入力したことを区別する方法を見つける必要がありますが、10.234500000000001フロートを使用することは不可能です。これは、浮動小数点数の格納方法に関係しています。を使用しdecimalます。

import decimal
a = decimal.Decimal('10.234539048538495')
>>> str(a)
'10.234539048538495'
>>>  (len(str(a))-1, len(str(a).split('.')[1]))
(17,15)
于 2010-06-10T23:09:08.110 に答える
4

strよりも良い選択のようですrepr：

>>> r=10.2345678
>>> r
10.234567800000001
>>> repr(r)
'10.234567800000001'
>>> str(r)
'10.2345678'
于 2010-06-11T04:11:54.833 に答える
3

の代わりにdecimal型を使用することを検討する必要があると思いますfloat。数値は内部的に 2 進数で表されますが、多くの 10 進数は正確な 2 進数表現を持たないため、このfloat型は丸め誤差を生じます。

于 2010-06-10T21:43:13.360 に答える
2

(0) 確認または拒否してください: 使用する float が与えられています。これは避けられません。データを 10 進数として取得することはできません。Oracle のデータ型には 10 進数ベースの型が含まれており、この基本的な不一致は避けられません。完全または部分的な否定について説明してください。

（1）「大きな数で失敗する」という発言は誤解を招く/無関係/間違っています-開始点はフロートであると言いますが、repr（）の結果が示すように、1234567890.0987654321はフロートとして表すことはできません。

(2) おそらく、まだ満たす repr(x) の可能な最小精度を提供する NEW repr (Python 2.7 および 3.1) を使用できます。float(repr(x)) == x

たとえば、古い repr(1.1) は "1.1000000000000001" を生成し、新しい repr(1.1) は "1.1" を生成します。

「map(len, repr(num).split('.')) が float の精度とスケールに最も近いと思いますか?」について: (a) 負とゼロを処理する戦略が必要です数字 (b) のような数字1.1e20

Python 2.6 以前を使用する必要がある場合は、Objects/floatobject.c を掘り下げると、float オブジェクトの new repr() の C コードが見つかるはずです。

(3) 関連する Oracle データ型の仕様を教えていただければ、特定の float 値を含むことができる型を選択するためのチェックを考案するのに役立つ可能性があります。

于 2010-06-10T23:08:00.703 に答える
1

基本的に、浮動小数点数ではできません。 decimal 型を使用すると役立ちます。非常に大きな精度が必要な場合gmpyは、GNU Multiple Precision ライブラリの Python へのポートである の使用を検討してください。

于 2010-06-10T21:44:23.827 に答える
0

コンマの後の記号の数。int、floatおよびDecimalタイプで動作します。

def get_num_precision(num):
    count = 0
    while num * 10**count % 1 != 0:
        count += 1
    return count
于 2021-11-25T14:35:11.383 に答える
0 
def get_precision(f1):
    str1=str(f1)
    return len(str1.split(".")[1])
于 2022-02-25T06:32:17.460 に答える