Find centralized, trusted content and collaborate around the technologies you use most.
Teams
Q&A for work
Connect and share knowledge within a single location that is structured and easy to search.
.NET から Mono ランタイムにアプリを移植しています。コードのある時点で、float の値が158136.422. float についての私の理解では、それは 7 桁の精度であるということでした。予想どおり、Mono はそれを 7 桁にトリミングします。
158136.422
C#の場合
float f = 158136.422f;
158136.4 に丸められます。
このコードを書くとき:
に割り当てられる正確なf値は です158136.421875。
f
158136.421875
文字列表現で出力される桁数は別の問題です。
私が使用する場合:
float f = 158136.422f; Console.WriteLine(f); Console.WriteLine(f.ToString("r"));
次の結果が得られます。
158136.4 158136.422
Mono と .NET の両方で。