1

numpy では、次を使用して ASCII ファイル (以下を参照) を読み取っています。np.genfromtxt()

0.085 102175 0.00025
0.094 103325 0.00030

raw = genfromtxt(fn)

チェックするrawと、次のようになります。

>>> raw[0,0]
0.085000000000000006

最後にアーティファクトを防ぐにはどうすればよい6ですか? また、それはどこから来るのですか?

4

1 に答える 1

1

これは通常の動作であり、浮動小数点演算の基本的な不正確さが原因です。つまり、0.085浮動小数点ビットで正確に表すことはできません。このため、数値計算では多少のノイズを想定することをお勧めします。

于 2012-10-23T06:15:05.233 に答える