問題タブ [decimal]

簡単な質問 - Decimal 型がこれらの定数を定義するのはなぜですか? なぜわざわざ？

これが言語によって定義されている理由を探しています。コンパイラーへの使用や影響は考えられません。そもそもなんでこれ入れるの？コンパイラは、Decimal.Zero と同じくらい簡単に 0m をインライン化できるので、コンパイラのショートカットとして購入するつもりはありません。

次のような800行を含むファイルがあります。

ここで、それぞれ 0 または 1 は何らかの機能の存在を表します。このファイルを読み取り、バイナリ コード化された情報に対していくつかのビット単位の論理演算を実行したいと考えています (演算は、ユーザー入力と 3000 行の 2 番目のファイルからの情報に依存します)。次に、これらの再計算されたバイナリ コード化された情報をファイルに書き込む必要があります (末尾にゼロを付けて、たとえば

独自の基数変換ルーチンを作成せずにこれを行うにはどうすればよいですか? 私は何に対してもオープンです。Python、perl など、私が知らない言語も受け入れます。コンパイルせずに動作するはずです。

これまでのところ、私は自分のやり方でスクリプトを作成し、awk し、sed しようとしました。これは（私が思うに）次のことを意味します：base-2としてバッチ読み取り、base-10に変換、ユーザー入力と2番目のファイルに応じてビット単位の操作を実行、base-2に変換、先行ゼロを追加して出力。ファイルに多くの行があるため、bc を使用するための通常のコンソール ヒントはエレガントに見えません。dc.sed についても同様です。また、 awk には、入力にバイナリとしてフラグを付けるのと同等の機能がないようです（ "echo $((2#101010))" のように）。 また、printf トリックはバイナリでは機能しません。では、これを最もエレガントに行うにはどうすればよいでしょうか?

基数 10 の 0.5 を基数 2 (0.1) に変換する必要があります。使ってみました

そして、それは460267881917264691216進数であると思いますが、私には意味がありません。

System.Decimal 番号があるとします。

説明のために、ToString() 表現が次のようなものを見てみましょう。

この Decimal について次のことが言えます。ここでの目的のために、scale は小数点以下の桁数として定義されます。有効なスケールは似ていますが、小数部分にある末尾のゼロは無視されます。(つまり、これらのパラメーターは、SQL 10 進数にいくつかの追加パラメーターを加えて、小数部分の後続ゼロの System.Decimal 概念を説明するように定義されます。)

• 精度: 7
• スケール: 4
• 有効精度: 5
• 有効スケール: 2

任意の System.Decimal が与えられた場合、文字列に変換して文字列を調べることなく、これら 4 つのパラメーターすべてを効率的に計算するにはどうすればよいでしょうか? ソリューションにはおそらく Decimal.GetBits が必要です。

いくつかの例:

(?) または、これらの精度をゼロとして解釈しても問題ありません。

10進数の値を四捨五入するにはどうすればよいですか？
例 ：

10進値="19500.98"

この値を「19501」のように四捨五入してテキストボックスに表示する必要があります

10進値の場合="19500.43"

それから

値="19500"

ほとんどの場合、非常に単純な質問です。回答を理解しやすいものにしてください。私はまだこれにかなり慣れていません。

私は小さなアプリを作成していますが、いくつかの計算に累乗を使用する必要があります。少し調査した後、cmath で pow 関数を見つけ、プレイしました。最後に、私はこれを思いついた、それは動作します:

正しい答え (4734.17) を返しますが、小数点以下 2 桁までしか返されません。できれば小数点以下5桁が欲しいです。

ここで何が間違っていましたか？間違ったデータ型 (フロート) を使用していませんか? それとも、 pow 関数に含まれるものは何でも 2dp のみを使用するという制限ですか?

この精度が必要なのは4つまたは5つの合計だけになるため、必要な値で定数を定義するだけでよいのですが、プログラムに計算させることが可能であれば、それは素晴らしいことです.

ありがとう

の代わりにdouble(または)を使用する利点を 3 つ挙げることができます。floatdecimal

1. メモリ使用量が少なくなります。
2. 浮動小数点演算がプロセッサでネイティブにサポートされているため、高速です。
3. より広い範囲の数値を表すことができます。

しかし、これらの利点は、モデリング ソフトウェアに見られるような計算集約型の操作にのみ適用されるようです。もちろん、財務計算など、精度が必要な場合は double を使用しないでください。では、「通常の」アプリケーションの代わりにdouble(または) を選択する実用的な理由はありますか?floatdecimal

追加するために編集: すべてのすばらしい応答に感謝します, 私はそれらから学びました.

もう 1 つの質問: double の方が実数をより正確に表すことができると主張する人が何人かいます。宣言されたとき、それらは通常、より正確に表現されていると思います。しかし、浮動小数点演算を実行すると精度が (場合によっては大幅に) 低下する可能性があるというのは本当ですか?

値 0.00 は有効な nonNegativeInteger ではなく、Integer でさえないことに気付きました。残念ながら、データはその形式で提供されています。.0 で終わる場合は破棄したくありませんが、タイプを Decimal に変更したくなく、.1 で終わる値が有効である可能性もあります。

私の XSD が正の整数であるように数値を検証できる方法はありますか?そのため、0.00、0、1、1.0、2.0000000 などの値はすべて受け入れられますが、-1、1.1、2.2、3.3333 はすべて無効ですか?

ありがとう -c

SQLServerの列の10進データ型を把握しようとしています。15.5、26.9、24.7、9.8などの値を保存できる必要があります

列のデータ型に割り当てdecimal(18, 0)ましたが、これではこれらの値を保存できません。

これを行う正しい方法は何ですか？

私はRubyを学び、Binary->Decimalコンバーターを作成することを考えています。バイナリ文字列を取得し、同等の10進数に変換します。変数「x」を削除できるように、rubyの現在の反復ステップを追跡する方法はありますか？