問題タブ [nsdecimalnumber]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
0 に答える
220 参照

ios - NSDecimalNumber decimalNumberByMultiplyingBy 期待した結果が得られない

の問題に直面していNSDecimalNumberます。以下のようなコードがあります。

上記のコードは結果1e+98を出力していますが、これは正しくありません。それはゼロであるべきです。ここで何が欠けていますか?

0 投票する
4 に答える
593 参照

iphone - NSDecimalNumberの問題のフォーマット

常にドットの後に2桁の小数桁がある123.00のような単純な形式でNSDecimalNumberを作成しようとしています。NSFormatterや、文字列からfloatを変換し、この文字列からNSDecimalNumberを作成するなど、他の多くの方法を試してみましたが、機能しません。問題は、NSStringやその他の形式ではなく、この形式のNSDecimalNumberのみが必要なことです。アドバイスありがとうございます、ポール

0 投票する
2 に答える
1284 参照

objective-c - NSDecimalNumber乗算の奇妙さ

私はこれについてしばらく前に同様のトピックを見てきましたが、それは方程式がどこかでNSNumberを使用したためであるように思われました。すべてのコードを確認しましたが、方程式にNSDecimalNumbersを使用していることがわかります。

いくつかの価格設定番号を返すJSONWebサービスを入手しました。

オブジェクトプロパティでそれらを解析した直後に、次の式を実行したいと思います。

NetPrice *(1 +(RawPercentage / 100))+ FixedPrice = processedNetPrice

更新:コードを次のように変更しました:

私が変更した場合:

に:

クラッシュします:

0 投票する
0 に答える
216 参照

ios - 一部の iOS コードを PayPal Mobile Payments Library に統合していますが、NSDecimalNumber で問題が発生しています

初めてのスタックオーバーフロー!いくつかの iOS コードを PayPal Mobile Payments Library に統合しています。仕様に従って、提供されているメソッドの 1 つにオブジェクトを渡します。オブジェクトには、タイプ NSDecimalNumber* の必須プロパティが含まれています。サンプル コードを使用してこのプロパティを設定しましたが、スタック オーバーフローが発生します。以下は私のコードからの行です:

以下は、メッセージ ログからの抜粋です。

私はググって、このタイプの使用に関する多くのオーバーフローの問題を見てきましたが、私の研究から明らかなことはまだ何も収集できません. 明らかな何かが欠けていますか?

0 投票する
1 に答える
671 参照

ios - NSDecimalNumber

NSDecimalNumber はより少ない数のゼロで保存されます。たとえば、テキストフィールドに $6000,00 と入力しますが、テーブルビューには $6,00 が表示されます

この問題の解決を手伝ってください

以下は私のコードです:

tableView で表示:

0 投票する
2 に答える
1535 参照

ios - NSDecimalNumber は NaN と表示されます

に保存NSDecimalNumberするEditViewControllerと、DisplayTableViewController値が表示されますNaN

この問題を解決するには、アドバイスが必要です。ありがとう

私のコード:

動画説明をご覧ください

入力値:

0 投票する
2 に答える
815 参照

ios - NSDecimalNumber合計

私のiOSプロジェクトでは、2つのエンティティ(CoreData)を使用しています。PersonとGifts with To-Many Relationship

私は一人への贈り物の合計を計算する方法を知っています:

しかし、どうすればすべての人の合計を計算できますか?

}

0 投票する
1 に答える
441 参照

objective-c - NSDecimalNumber RestKit 精度エラー

RestKit v 0.10.2 での非常に奇妙な NSDecimalNumber 精度エラー (または、おそらく私が見ていないオペレーター エラー)

クラス定義:

JSON テキスト:

オブジェクト マッピングは目立たない:

ただし、逆シリアル化の結果は menuItemPrice 値 = 9.9499999999 になります

エラー/問題は、メソッドの RKObjectMappingOperation のこれらの行にまでさかのぼることができるようです

「値」は NSCFNumber 型であり、NSCFNumber から NSDecimalNumber への値のマッピングで精度が失われているようです。

私は価格と通貨を扱っているので、これは私にとって大きな問題です。

ここで明らかなことがありませんか?これがどのように/なぜ起こるのか、それに対して何をすべきかがわかりません。

ありがとう!

0 投票する
1 に答える
149 参照

iphone - NSDecimalNumber 10^-65 の 2 乗がアンダーフロー例外ではなく 10^126 になるのはなぜですか?

コードは次のとおりです。

プログラムがアンダーフロー例外で終了することを期待していましたが、そうではありませんでした。さらに、NSLog を取得すると、number3 が巨大な数として得られます。「test」を 64 未満に変更すると、正しい出力 (つまり、10^(-2*test)) が得られます。ここで何が起こっているか知っている人はいますか?つまり、回避するのは非常に簡単ですが、何かが欠けていない限り (かなり可能性があります)、NSDecimalNumber クラスのエラーのようです。

0 投票する
2 に答える
11322 参照

xcode - NSString を NSDecimalNumber に変換する

私の Core Data モデルでは、「金額」はエンティティ「追跡」の属性です。コード全体で金額を NSDecimalNumber に変換するにはどうすればよいですか? 経験豊富な人なら、私が何日も見てきたところを 3 分でできると確信しています。