ドキュメントにはそれが何を意味するのかについてのテキストはありませんが、問題が発生しないように理解することは非常に重要に聞こえます。誰かがそれが数字の「有効数字」について何であるかを知っていますか?
2 に答える
この質問に対する他の回答は、一般的な有効数字の概念の正しい説明にリンクしていますが、NSNumberFormatter
の{uses|minimum|maximum}SignificantDigits
プロパティは計算の精度とは関係ありません。
有効数字は、通常、末尾のゼロが小数でない限り、最初のゼロ以外の数字から最後のゼロ以外の数字までの数字のグループです。出力を特定の有効桁数に制限すると、相対(パーセンテージ)エラーがわかっているか、必要な場合に役立ちます。
まず、minimumSignificantDigits
とは、に設定されmaximumSignificantDigits
ていない限り効果がありません。この場合、その効果はおそらく例を使用して最も簡単に説明できます。usesSignificantDigits
YES
、、、の数字a = 123.4567
を見てみましょう:b = 1.23
c = 0.00123
と仮定minimumSignificantDigits = 0
して、1
または2
:
の場合maximumSignificantDigits = 3
、 「123」、 「1.23」、および「0.00123」としてa
フォーマットされます。b
c
の場合maximumSignificantDigits = 4
、a
「123 .5」、b
「1.23」、c
「0.00123」の形式になります。
の場合maximumSignificantDigits = 2
、a
「12 0」、b
「1.2」、c
「0.0012」の形式になります。
仮定minimumSignificantDigits = 4
:
の場合maximumSignificantDigits = 4
、 「123。5」 、「1.23 0」、「 0.001230 」の形式a
になります。b
c
注:aの4に続く数字は5であるため、4 → 5変換は、丸めから最も近いモードのために発生します。
有効数字に関する優れたチュートリアルについては、こちらをご覧ください。非常に簡単な説明は次のとおりです。アプリ内の計算に使用される桁数。