コード:
float cordsStepAmountHeight;
float cordsStepAmountWidth;
coordStepAmountHeight=(2.0f/height);
coordStepAmountWidth=(2.0f/width);
ここで、幅は2560、高さは1504(デバイスの解像度)です。
計算後、coordStepAmountHeightの値は0.0013297872ですが、これは正しいですが、cordsStepAmountWidthは7.8125E-4として出力されます(私が信じる場合は0.00078125である必要があります)
coordStepAmountWidthがこのように表示されるのはなぜですか?変数がfloatとして宣言されていて、計算などに対応できないことと関係がありますか?