現在、 VC ++ 11(CTP Update 1)を使用してx86ターゲット用にコンパイルすると、ランダムな浮動小数点エラーが発生します。以下の短い例「test.cpp」を参照し、以下を使用してコンパイルしてください。
cl /GL /O2 /EHsc test.cpp /link /MACHINE:X86
出力はである必要がありますが、 (プログラム全体の最適化)が有効になっている場合10 == 10
に生成されます。問題は、結果を浮動小数点スタックにプッシュすることのようですが、呼び出し元の関数は、SSEレジスタXMM0に結果を期待しています。10 == 0
/GL
get_scaling_factor()
質問:私は明らかな何かを見逃していますか、それともこれは本当にバグですか?もちろん、テストプログラムは簡素化されたテストケースであるため、意味がありません。
test.cpp:
#include <iostream>
template <typename T>
inline T get_scaling_factor(int units)
{
switch (units)
{
case 0: return 1;
case 1: return 10;
case 2: return 100;
case 3: return 1000;
case 4: return 10000;
case 5: return 100000;
case 6: return 1000000;
case 7: return 10000000;
case 8: return 100000000;
case 9: return 1000000000;
default: return 1;
}
}
template <int targetUnits, typename T>
inline T scale(T value, int sourceUnits)
{
return value * get_scaling_factor<T>(sourceUnits)
/ get_scaling_factor<T>(targetUnits);
}
__declspec(noinline)
double scale(double value, int units)
{
return scale<9>(value, units);
}
int main()
{
std::cout << "10 = " << scale(1e9, 1) << std::endl;
}
アップデート
Microsoftによって確認された問題。これは、次のような単純なコードにも影響します。
#include <stdio.h>
double test(int a)
{
switch (a)
{
case 0: return 1.0;
case 1: return 10.0;
case 2: return 100.0;
case 3: return 1000.0;
case 4: return 10000.0;
case 5: return 100000.0;
case 6: return 1000000.0;
case 7: return 10000000.0;
case 8: return 100000000.0;
case 9: return 1000000000.0;
default: return 1.0;
}
}
void main()
{
int nine = 9;
double x = test(nine);
x /= test(7);
int val = (int)x;
if (val == 100)
printf("pass");
else
printf("fail, val is %d", val);
}