0

コード:

float cordsStepAmountHeight;
float cordsStepAmountWidth;

coordStepAmountHeight=(2.0f/height);
coordStepAmountWidth=(2.0f/width);

ここで、幅は2560、高さは1504(デバイスの解像度)です。

計算後、coordStepAmountHeightの値は0.0013297872ですが、これは正しいですが、cordsStepAmountWidthは7.8125E-4として出力されます(私が信じる場合は0.00078125である必要があります)

coordStepAmountWidthがこのように表示されるのはなぜですか?変数がfloatとして宣言されていて、計算などに対応できないことと関係がありますか?

4

2 に答える 2

1

同じ番号です。これは、浮動小数点数のいわゆる科学的表現です。詳細については、http://www.learncpp.com/cpp-tutorial/25-floating-point-numbers/を参照してください。

于 2013-03-21T18:51:37.760 に答える
0

7.8125E-4および0.00078125は、e-4がx10 ^ -4(10000で除算)を意味するのと同じです。したがって、それらは数学の観点からは同一です。

于 2013-03-21T18:50:30.213 に答える