問題タブ [decimal]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
14005 参照

c# - 数値の小数部と小数点以下の桁数を取得する(C#)

数字の小数部分だけを取得するエレガントな方法を知っている人はいますか?特に、小数点以下の正確な桁数を取得して、数値を適切にフォーマットできるようにすることを目指しています。カルチャ固有の小数点記号を使用して文字列を抽出せずにこれを行う方法はないかと思いました。

たとえば、
98.0は98としてフォーマットされます。98.20は
98.2として
フォーマットされます。98.2765は98.2765としてフォーマットされます。

0 投票する
1 に答える
22062 参照

math - VisualBasic6.0の10進データ型

非常に大きな数で計算(除算または乗算)を行う必要があります。現在、私はDoubleを使用しており、値の丸めの問題を取得しています。Decimalタイプを使用して、C#で同じ計算を正確に行うことができます。VB6.0で正確な計算を行う方法を探していますが、VB6.0でDecimal型が見つかりませんでした。

大きな値で浮動小数点の四捨五入の問題を起こさずに算術計算を行うために使用されるデータ型は何ですか?

0 投票する
7 に答える
502921 参照

c# - 10進数と2倍!- どれをいつ使用すればよいですか?

C# で double を使用している人をよく見かけます。double が精度を失うことがあることをどこかで読んだことは知っています。私の質問は、いつ double を使用し、いつ decimal 型を使用する必要があるかということです。お金の計算に適した型は? (つまり、1 億ドル以上)

0 投票する
2 に答える
3275 参照

android - sqliteを使用してAndroidで整数を表示する

小数を含むデータベースがあります。列は「..decimal(5,2)not null」として設定されています。私がやろうとしているのは、列の合計を見つけて、このコードを使用してテキストフィールドに表示することです。

ただし、返される場合、値は整数です。20ではなく20.75のようになります。

私はSQLiteにあまり詳しくないので、助けてください。

0 投票する
6 に答える
1394 参照

mysql - Mysql の計算の問題: 1+1=1.999999999

問題は、テーブルからビューに 2 つ以上の double を追加すると、正しい結果が得られる代わりに、約 10 桁以上の数字が追加されることです。たとえば、0.5+1.5=1.99999999998 または 5.5+8.5=14.0000000001 です。何か案は?(私はこれが一種の未熟な質問であることを知っており、9 年生の試験でそのようなものに対処しなければならなかったことを覚えていますが、当時どのようにそれを行ったかを思い出せません :P)

0 投票する
1 に答える
2541 参照

xslt - xsl 小数点を切り捨てる

数値の表示方法を変更しようとしている xsl を含む xml ファイルがあります。xml では、すべての数字が 00:12:34 の形式になっています。

最初の 2 つのゼロとコロンを削除して、12:34 と表示するだけです。

部分文字列を使用するのか、10 進形式を使用するのかわかりません。私はこれにかなり慣れていないので、どんな助けも素晴らしいでしょう。

xsl のコードは次のとおりです。

0 投票する
4 に答える
747 参照

c# - 「$1,250.00」のような文字列を受け入れて、C# で 10 進数に変換するにはどうすればよいですか?

「$1,250.00」のような文字列を受け入れて、C# で 10 進数に変換するにはどうすればよいですか?

replace("$", "") and (",", "") を実行するだけですか、それともこの種の入力を処理する別の方法がありますか?

0 投票する
5 に答える
19177 参照

java - Java DecimalFormat 科学表記法の質問

Java のDecimalFormatクラスを使用して、数値を Scientific Notation で出力しています。ただし、問題が 1 つあります。値に関係なく、文字列を固定長にする必要があります。現在、これは私のフォーマットがどのように見えるかです:

これにより、次の組み合わせが得られます: 1.0E1、1.0E-1、-1.0E1、および -1.0E-1。

setPositivePrefixを使用して、+1.0E1、+1.0E-1、-1.0E1、および -1.0E-1、または好きなものを取得できますが、べき乗の符号には影響しません!

固定長の文字列を使用できるようにする方法はありますか? ありがとう!

編集: ああ、Java の既存のDecimalFormat APIを使用してそれを行う方法はありませんか? 提案をありがとう!既に配置されているインターフェイスによって制限されているため、DecimalFormatをサブクラス化する必要があると思います。

0 投票する
2 に答える
3577 参照

c# - C#10進数から数値(?、?)

私は問題を抱えています、私はまだ解決策を見つけられなかったので、私はあなたの助けを求めています。私のデータベースには、フラットファイルに含めるために特定の長さと精度で数値に変換する必要があるint、decimal、stringがあります。

元:

カンマやドットは入れられません。簡単な解決策はありますか?私は多くのことを試しましたが、フラットファイルにファイルされたループを実行する以外に結果が得られません!!

編集:

フラットファイルは、開始点と長さに基づいて情報を取得するため、ファイルに含めるすべてのデータは特定の長さである必要があります。そして、私が例として持っている数値については

N( 、)に基づいて10進数または整数のデータを解析する方法を知りたいと思いました