問題タブ [nsdecimalnumber]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
ios - NSDecimalNumber decimalNumberByMultiplyingBy 期待した結果が得られない
の問題に直面していNSDecimalNumber
ます。以下のようなコードがあります。
上記のコードは結果1e+98
を出力していますが、これは正しくありません。それはゼロであるべきです。ここで何が欠けていますか?
iphone - NSDecimalNumberの問題のフォーマット
常にドットの後に2桁の小数桁がある123.00のような単純な形式でNSDecimalNumberを作成しようとしています。NSFormatterや、文字列からfloatを変換し、この文字列からNSDecimalNumberを作成するなど、他の多くの方法を試してみましたが、機能しません。問題は、NSStringやその他の形式ではなく、この形式のNSDecimalNumberのみが必要なことです。アドバイスありがとうございます、ポール
objective-c - NSDecimalNumber乗算の奇妙さ
私はこれについてしばらく前に同様のトピックを見てきましたが、それは方程式がどこかでNSNumberを使用したためであるように思われました。すべてのコードを確認しましたが、方程式にNSDecimalNumbersを使用していることがわかります。
いくつかの価格設定番号を返すJSONWebサービスを入手しました。
オブジェクトプロパティでそれらを解析した直後に、次の式を実行したいと思います。
NetPrice *(1 +(RawPercentage / 100))+ FixedPrice = processedNetPrice
更新:コードを次のように変更しました:
私が変更した場合:
に:
クラッシュします:
ios - 一部の iOS コードを PayPal Mobile Payments Library に統合していますが、NSDecimalNumber で問題が発生しています
初めてのスタックオーバーフロー!いくつかの iOS コードを PayPal Mobile Payments Library に統合しています。仕様に従って、提供されているメソッドの 1 つにオブジェクトを渡します。オブジェクトには、タイプ NSDecimalNumber* の必須プロパティが含まれています。サンプル コードを使用してこのプロパティを設定しましたが、スタック オーバーフローが発生します。以下は私のコードからの行です:
以下は、メッセージ ログからの抜粋です。
私はググって、このタイプの使用に関する多くのオーバーフローの問題を見てきましたが、私の研究から明らかなことはまだ何も収集できません. 明らかな何かが欠けていますか?
ios - NSDecimalNumber
NSDecimalNumber はより少ない数のゼロで保存されます。たとえば、テキストフィールドに $6000,00 と入力しますが、テーブルビューには $6,00 が表示されます
この問題の解決を手伝ってください
以下は私のコードです:
tableView で表示:
ios - NSDecimalNumber は NaN と表示されます
に保存NSDecimalNumber
するEditViewController
と、DisplayTableViewController
値が表示されますNaN
この問題を解決するには、アドバイスが必要です。ありがとう
私のコード:
入力値:
ios - NSDecimalNumber合計
私のiOSプロジェクトでは、2つのエンティティ(CoreData)を使用しています。PersonとGifts with To-Many Relationship
私は一人への贈り物の合計を計算する方法を知っています:
しかし、どうすればすべての人の合計を計算できますか?
}
objective-c - NSDecimalNumber RestKit 精度エラー
RestKit v 0.10.2 での非常に奇妙な NSDecimalNumber 精度エラー (または、おそらく私が見ていないオペレーター エラー)
クラス定義:
JSON テキスト:
オブジェクト マッピングは目立たない:
ただし、逆シリアル化の結果は menuItemPrice 値 = 9.9499999999 になります
エラー/問題は、メソッドの RKObjectMappingOperation のこれらの行にまでさかのぼることができるようです
「値」は NSCFNumber 型であり、NSCFNumber から NSDecimalNumber への値のマッピングで精度が失われているようです。
私は価格と通貨を扱っているので、これは私にとって大きな問題です。
ここで明らかなことがありませんか?これがどのように/なぜ起こるのか、それに対して何をすべきかがわかりません。
ありがとう!
iphone - NSDecimalNumber 10^-65 の 2 乗がアンダーフロー例外ではなく 10^126 になるのはなぜですか?
コードは次のとおりです。
プログラムがアンダーフロー例外で終了することを期待していましたが、そうではありませんでした。さらに、NSLog を取得すると、number3 が巨大な数として得られます。「test」を 64 未満に変更すると、正しい出力 (つまり、10^(-2*test)) が得られます。ここで何が起こっているか知っている人はいますか?つまり、回避するのは非常に簡単ですが、何かが欠けていない限り (かなり可能性があります)、NSDecimalNumber クラスのエラーのようです。
xcode - NSString を NSDecimalNumber に変換する
私の Core Data モデルでは、「金額」はエンティティ「追跡」の属性です。コード全体で金額を NSDecimalNumber に変換するにはどうすればよいですか? 経験豊富な人なら、私が何日も見てきたところを 3 分でできると確信しています。