問題タブ [scientific-notation]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
matlab - Matlabのsprintfに関する問題
次のようにMatlabで印刷する方法...
私が試してみました
それは私に与えています
r - 中央値の計算
次の(指数)値があり、Rを使用して中央値を計算したい:
これが私がやっていることです:
値が指数関数的であるため、正しい中央値が得られません。または、これらの値を通常の浮動小数点値に変更する方法を提案することもできます。
c# - 指数表記による割り当てと計算
この現象を観察したことがありますか。
Visual Studio 2010 C#.NetのImmediateWindowで次の計算を計算しようとすると、この奇妙な解決策が得られます。
このように計算しても、次のようになります。
Windows calcで同じ計算を計算すると、期待どおりの結果が得られます。
誰かがこの振る舞いについて何か知っているなら、私はその情報を手に入れてとてもうれしく思います。
haskell - 科学的記数法ではない数値を出力するためにhaskellを使用するにはどうすればよいですか?
各バケットが最後のバケットよりも少し大きくなるように、いくつかのバケットに分割したいアイテムがいくつかあります。
これを行うには数学的にもっとエレガントな方法があると確信していますが、それは私の質問ではありません。最終ステップは常に科学的記数法で印刷することです。
プレーンな10進数出力を取得するにはどうすればよいですか?Numericパッケージを見てきましたが、どこにも速くなりません。
java - Javaでのコンパクトな数値フォーマット動作(10進表記と科学的記数法を自動的に切り替えます)
浮動小数点数を、数値の値に応じて、標準の10進形式または科学的記数法のいずれかで動的にフォーマットする方法を探しています。
- 中程度の大きさの場合、数値は末尾のゼロが抑制された小数としてフォーマットする必要があります。浮動小数点数が整数値に等しい場合は、小数点も抑制される必要があります。
- 極端な大きさ(非常に小さいまたは非常に大きい)の場合、数値は科学的記数法で表す必要があります。言い換えると、標準の10進表記としての式の文字数が特定のしきい値を超える場合は、科学的記数法に切り替えます。
- 精度の最大桁数を制御する必要がありますが、最小精度を表すために末尾のゼロを追加したくありません。後続のゼロはすべて抑制されるべきです。
基本的に、コンパクトさと読みやすさを最適化する必要があります。
2.80000
->2.8
765.000000
->765
0.0073943162953
-> 0.00739432
(精度の桁数を制限します-この場合は6桁まで)
0.0000073943162953
-> 7.39432E-6
(マグニチュードが十分に小さい場合は科学的記数法に切り替えます-1E-5
この場合よりも小さい)
7394316295300000
-> 7.39432E+6
(大きさが十分に大きい場合、たとえば、より大きい場合は、科学的記数法に切り替えます1E+10
)
0.0000073900000000
-> 7.39E-6
(科学的記数法の仮数から末尾のゼロを取り除く)
0.000007299998344
-> 7.3E-6
(6桁の精度制限から四捨五入すると、この数値の末尾のゼロが削除されます)
これが私がこれまでに見つけたものです:
- Numberクラスの
.toString()
メソッドは、可能な場合は整数表現にアップコンバートせず、科学的記数法で大きな整数の大きさを表現しないことを除いて、私が望むほとんどのことを実行します。また、精度の調整方法もわかりません。 - 関数の
"%G"
フォーマット文字列を使用すると、String.format(...)
数値を科学的記数法で調整可能な精度で表現できますが、末尾のゼロは削除されません。
これらの基準を満たすライブラリ関数がすでに存在するのではないかと思います。これを自分で書くための唯一の障害は、によって生成された科学的記数法の仮数から末尾のゼロを取り除く必要があることだと思い%G
ます。
java - 科学表記法 Java
私は友人から与えられた問題に取り組んでいます。x.yzw*10^p
入力番号をゼロ以外の形式で取得する必要があり、p
ゼロにx.yzw
することができます。私はプログラムを作成しましたが、問題は、 のような数値がある場合0.098
、10 進形式で作成できます9.8
が、それを取得する必要があり9.800
、常に として出力する必要があることx.yzw*10^p
です。誰かがこれがどのように可能かを教えてください。
コード:
python - 指数表記で固定指数を使用する
次の Python スニペットを検討してください。
次の出力が生成されます。
どうにかして「戻る」ことはできますか?あれは:
...指数を次のように指定しますe+09
。そして、この仮想関数に投げた数値は、その指数で数値を返しますか? それぞれの場合に、全体と小数部分の両方にゼロパディングを指定することは可能でしょうか? (すなわち000.0200e9
、020.0000e9
)?
c++ - 科学的記数法のタイプ
タイプとは何ですか、1e9
それはどのくらい正確ですか?(1000000000と正確に等しいですか?)
stdout
可能であれば、値/変数のタイプを出力すると便利です。
mysql - mysql MIN()集計関数で科学的記数法と10進数を比較するにはどうすればよいですか?
混合10進値と科学的記数法の値にmysqlMIN()を適用するにはどうすればよいですか。MIN()を使用したmysqlクエリで緯度経度の式を使用して最小距離を取得する必要があります。距離が小数の場合は機能しています。ただし、「5.89872212195226e-05」のように距離が小さすぎると、正しく機能しません。
問題は、mysqlクエリのMIN(4,5.89872212195226e-05)が常に「4」を返すことです。
これがクエリの一部です
解決策はありますか?ありがとうございました