浮動小数点演算が利用可能であると仮定すると、OPのアルゴリズムは優れたものであり、大きさが大幅に異なる場合はa + f * (b - a)
精度が低下するため、常に代替アルゴリズムよりも優れています。a
b
例えば:
// OP's algorithm
float lint1 (float a, float b, float f) {
return (a * (1.0f - f)) + (b * f);
}
// Algebraically simplified algorithm
float lint2 (float a, float b, float f) {
return a + f * (b - a);
}
この例では、32ビットのfloatを想定lint1(1.0e20, 1.0, 1.0)
すると1.0が正しく返されますが、lint2
誤って0.0が返されます。
オペランドの大きさが大幅に異なる場合、精度の低下の大部分は加算演算子と減算演算子にあります。上記の場合、原因は、の減算b - a
との加算ですa + f * (b - a)
。OPのアルゴリズムは、加算前にコンポーネントが完全に乗算されるため、これに悩まされることはありません。
a = 1e20、b = 1の場合、異なる結果の例を次に示します。テストプログラム:
#include <stdio.h>
#include <math.h>
float lint1 (float a, float b, float f) {
return (a * (1.0f - f)) + (b * f);
}
float lint2 (float a, float b, float f) {
return a + f * (b - a);
}
int main () {
const float a = 1.0e20;
const float b = 1.0;
int n;
for (n = 0; n <= 1024; ++ n) {
float f = (float)n / 1024.0f;
float p1 = lint1(a, b, f);
float p2 = lint2(a, b, f);
if (p1 != p2) {
printf("%i %.6f %f %f %.6e\n", n, f, p1, p2, p2 - p1);
}
}
return 0;
}
出力、フォーマット用にわずかに調整:
f lint1 lint2 lint2-lint1
0.828125 17187500894208393216 17187499794696765440 -1.099512e + 12
0.890625 10937500768952909824 10937499669441282048 -1.099512e + 12
0.914062 8593750447104196608 8593749897348382720 -5.497558e + 11
0.945312 5468750384476454912 5468749834720641024 -5.497558e + 11
0.957031 4296875223552098304 4296874948674191360 -2.748779e + 11
0.972656 2734375192238227456 2734374917360320512 -2.748779e + 11
0.978516 2148437611776049152 2148437474337095680 -1.374390e + 11
0.986328 1367187596119113728 1367187458680160256 -1.374390e + 11
0.989258 1074218805888024576 1074218737168547840 -6.871948e + 10
0.993164 683593798059556864 683593729340080128 -6.871948e + 10
1.000000 1 0 -1.000000e + 00