0

のようにベクトルvをゼロに近づけます{7.000e-07, 5.000e-06, 4.000e-07}。正規化する前に、たとえば1024を掛けるのは良い考えですか?このような近い値は、doubleが内部で80ビットであり、ARMFPUでは悪いPCでうまく機能するようです。

4

1 に答える 1

0

実行したい計算の中間結果がいずれもアンダーフローしない限り (つまり、 で 1E-308 にdouble、 で 1E-38 に近づかない限りfloat)、1024 を乗算するものは何もありません。

1024 を掛けても何も失われませんが (オーバーフローが発生する場合を除く)、他の要因 (たとえば 1000) によっても精度が失われます。

于 2012-11-21T19:48:14.627 に答える