Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
numpy では、次を使用して ASCII ファイル (以下を参照) を読み取っています。np.genfromtxt()
np.genfromtxt()
0.085 102175 0.00025 0.094 103325 0.00030 raw = genfromtxt(fn)
チェックするrawと、次のようになります。
raw
>>> raw[0,0] 0.085000000000000006
最後にアーティファクトを防ぐにはどうすればよい6ですか? また、それはどこから来るのですか?
6
これは通常の動作であり、浮動小数点演算の基本的な不正確さが原因です。つまり、0.085浮動小数点ビットで正確に表すことはできません。このため、数値計算では多少のノイズを想定することをお勧めします。
0.085