以下にいくつかの変数を示します。
int cpu_time_b = 6
float clock_cycles_a = 2 * pow(10, 10));
float cpi_a = 2.0;
int cycle_time_a = 250;
float cpi_b = 1.2;
int cycle_time_b = 500
次の計算で b のクロック レートを計算しています。
(((1.2*clock_cycles_a)/cpu_time_b)/(1 * pow(10, 9)))
明らかに答えは4であるはずですが、私のプログラムは答えとして6000000204800000000.0を出力しています
ここでオーバーフローが発生している可能性があると思います。これは事実ですか?もしそうなら、どうすれば問題を解決できますか?