5

ドキュメントにはそれが何を意味するのかについてのテキストはありませんが、問題が発生しないように理解することは非常に重要に聞こえます。誰かがそれが数字の「有効数字」について何であるかを知っていますか?

4

2 に答える 2

17

この質問に対する他の回答は、一般的な有効数字の概念の正しい説明にリンクしていますが、NSNumberFormatter{uses|minimum|maximum}SignificantDigitsプロパティは計算の精度とは関係ありません。

有効数字は、通常、末尾のゼロが小数でない限り、最初のゼロ以外の数字から最後のゼロ以外の数字までの数字のグループです。出力を特定の有効桁数に制限すると、相対(パーセンテージ)エラーがわかっているか、必要な場合に役立ちます。

まず、minimumSignificantDigitsとは、に設定されmaximumSignificantDigitsていない限り効果がありません。この場合、その効果はおそらく例を使用して最も簡単に説明できます。usesSignificantDigitsYES

、、、の数字a = 123.4567を見てみましょう:b = 1.23c = 0.00123

と仮定minimumSignificantDigits = 0して、1または2

の場合maximumSignificantDigits = 3、 「123」、 「1.23」、および「0.00123」としてaフォーマットされます。bc

の場合maximumSignificantDigits = 4a「123 .5」、b「1.23」、c「0.00123」の形式になります。

の場合maximumSignificantDigits = 2a「12 0」、b「1.2」、c「0.0012」の形式になります。

仮定minimumSignificantDigits = 4

の場合maximumSignificantDigits = 4、 「123。5」 、「1.23 0」、 0.001230 」の形式aになります。bc

注:aの4に続く数字は5であるため、45変換は、丸めから最も近いモードのために発生します。

于 2012-10-28T16:22:43.877 に答える
0

有効数字に関する優れたチュートリアルについては、こちらをご覧ください。非常に簡単な説明は次のとおりです。アプリ内の計算に使用される桁数。

于 2009-08-24T13:23:39.560 に答える