問題タブ [nsdecimalnumber]

簡単に言えば、機能decimalNumberBySubtractingしdecimalNumberByDividingByていません...まったく。エラーはありません。結果が台無しになっただけです。私は本当にこれを修正する必要がありますが、エラーが発生しておらず、計算を行うための他の方法は考えられません!! 私は次のような数字を取得しています：

2578496913929500000000000000000000000000000000000000000000000000000000000000

評価すべき場所:

-0.581

これが長い話です。データセットで単純な Z スコア計算を実行しようとしています。AZscoreは として定義され(X - Average)/(stdDev)ます。ものすごく単純。テスト データには、それぞれ 96 サンプルの 5 つのプレートが含まれています。このコードは、個々のプレートを識別し、各プレートの平均値と標準偏差を生成し、次にそのプレートの各サンプルに対して上記の計算を実行します。

問題は、この計算を実行すると、値の 99% が -3 から 3 の間にある ~(-6,6) の数値を取得する必要があることです。返される 1 つのデータ ポイントは次のとおりです。

2578496913929500000000000000000000000000000000000000000000000000000000000000

大丈夫です。変数deltaTemp、numerator、を NSTableViewzscoreMeanに挿入して、トラブルシューティングを行いました。zscoreStdDevアイデアは、XCode がこれらの変数をどのように評価しているかを確認し、トラブルメーカーである方を修正することでした。このコードを使用してそれを行いました:

変数の値を取得しました:

これは、Z スコア = -0.581 と評価されます...

それは完全に有効な ZScore です...問題は次のとおりです。

変数分子が正しく評価されておらず、zscore 値も正しく評価されていません。私の CoreData DataModel には、それぞれの数値変数の入力型が NSDecimalNumber として定義されているため、数値エンコーディングが問題なく個別に挿入されているため、数値エンコーディングが問題ないと仮定しています...

通貨価値があると困ります

999999999999999999.99

その値から、文字列として表示したい。問題は、値が常にに丸められることです

1000000000000000000.00

その値が丸められるとは思わない。元の値を表示したい。この問題を解決する方法はありますか？stackoverflow.com のいくつかの回答/チュロリアルからこのコードを試しました:

書式設定された文字列 (通貨用に書式設定された) を持つ UILabel があるため、ドル記号 $21.34 があります。

コア データ エンティティでは、属性は double 型で、NSDecimalNumber を使用してデータベースに保存しています。

とにかく、これが NaN にならないようにする必要があるので、ドル記号を削除することを考えていますが、その方法がわからないか、目標を達成するためのより良い方法があるかもしれません。

NSDecimalNumberはNSNumberのサブクラスであり、私が知る限り、NSNumberインスタンスに期待されるすべてのNSNumberメソッドを実装しています。

それを考えると、NSNumberを期待しているコードにNSDecimalNumbersを与えても大丈夫ですか？

考えられる唯一の問題は、引数がNSNumberのインスタンスであることを確認するコードですが、NSNumberはクラスクラスターであるため、このようなコードでは、インスタンスがNSNumberのサブクラスであることを確認する必要があり、NSDecimalNumberインスタンスは同じものを渡す必要があります。テスト。

OK、これは今日のばかげた質問かもしれませんが、次のようなクラスがあるとします:

これらの数値を加算する関数を使用できないのはなぜですか:

ばかであることを事前にお詫び申し上げます。ありがとうございます。

次のようなオブジェクトからキーを取得しています。

キー値は次のように取得されます。

typeIdがNSStringであるのではなく、NSDecimalNumberです。何故ですか？

NSStringに変換するにはどうすればよいですか？

ExclusivePrice、数量は両方ともNSDecimalNumbersです。

私が得る結果：

私が期待したこと：

誰かがこれを説明できますか？

編集：

完全な再現：

数aから0.5を引き、答えを数bに設定する必要があります。私のコードは機能するように見えますが、何が間違っているのかわかりません。私が得るエラーは減算ライン上にあります、エラーは言いincompatible type for argument 1 of 'decimalNumberBySubtracting:'ます。

ここに私のヘッダーがあります:(注：ヘッダーが大きいため、数字のみを表示しました）

残りはここにあります:(これがIBActionにあると仮定します）

誰かが適切に助けを差し引く方法を知っているなら、いただければ幸いです。

NSDecimalNumber 型の ceilf と floorf に同等のメソッドはありますか? 見つけられなかったようです。

NSDecimalNumbers で動作する C の pow() 関数に相当するものが必要です。pow では負の数を使用できます。たとえばpow(1514,-1234)、NSDecimal の decimalNumberByRaisingToPower: メソッドでは、正の値が必要と思われる NSUInteger を使用する必要があります。

私はこのようなことをしたいと思います:

また

オーバーフローまたはアンダーフローの例外からクラッシュすることはありません。