問題タブ [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
3 に答える
353 参照

xslt - 数学の結果は科学的浮動小数点数になり、それを使用して計算することはできなくなります

クォータニオンを介して位置 (vector3) を新しい位置に変換できる xslt を作成しようとしています。次の設定を行いましたが、NaN0 に近い非常に小さな値の を取得しています。クォータニオンから右ベクトル計算に至る値をさらに計算するにはどうすればよいですか?

受け取ることができる xml 値の例は次のとおりです。

0 投票する
1 に答える
393 参照

javascript - Javasctipt科学的記数法のオーバーライド

与えられた数の5つの連続した数の最大の積を計算するコードを書こうとしています。
私が持っているコードは、数値を配列に変換してから、配列をforループし、5つの連続する1桁の数値ごとに乗算し、最後の数値と比較しようとします。
関数を通過する数値が21桁を超えると、コンピューターがその数値を科学的記数法に変換し、関数全体が失われると思います。
21桁で正常に実行されるコードは次のとおりです。

別の数字を追加するとすぐに:

科学的記数法の使用を開始します。
これは、Javascriptの性質、使用しているコンピューター、コンパイラー、または何によるものですか?

0 投票する
1 に答える
1025 参照

c - 小さい(1.0E-12)数値を科学的記数法で2倍として格納する

設定は次のとおりです。

私の学士論文では、LHCで使用されているジェットアルゴリズムをテストしたいと思います。基本的に最初のステップは次のとおりです。4元運動量が与えられます。

ランダムに生成されたいくつかの(たとえば50個の)4元ベクトルを10 ^(-12)の順序で最後の3つのコンポーネントに追加して実験データをシミュレートしたいので、それらは小さくなります(ここで興味深い物理学が発生します)が、小数点以下15桁のダブルフロート精度を大幅に上回っています。したがって、それに対する迅速で汚い解決策は次のとおりです。

これにより、1E-12から10E-12(= 1E-11)までの乱数が得られます。小数点以下3桁までです。したがって、「実際の」倍数では、小数点以下15桁になります。

ここで要点:単精度浮動小数点数を超えることなく、小数点以下3桁を超える順序で数値を格納できますか?

PS:小さな乱数を生成するためのより良い方法はありますか?(これは別のトピックのように聞こえます;))

0 投票する
2 に答える
1430 参照

regex - 正規表現で化学式を見つける方法

この問題は特定のプログラミングの問題ではないかもしれませんが、私は科学的なテキストで H2O、C02 などの化学式を見つけようとしており、これを使用しています:

これは機能しますが、「ドット」の後のすべての浮動小数点数も検出されます。

これを防ぐチャンスはありますか?前もって感謝します!

0 投票する
2 に答える
16824 参照

matlab - Matlabで科学的記数法を回避する

私はすでに試しました:

しかし、このような数字は科学的記数法で示されています。

次のようなものを使用せずに科学的記数法を回避するにはどうすればよいfprintfですか?

0 投票する
5 に答える
8473 参照

java - 科学的記数法はintまたはfloatとして解釈されますか?

科学的記数法(例)を使用してコードに数値をハードコーディングした場合1e9、その数値のタイプは何になりますか(int、long、float、double ..)?

仮数または指数が浮動小数点数の場合、明らかに整数にすることはできませんが、上記の場合はどうでしょうか。

0 投票する
3 に答える
3785 参照

perl - 科学表記を 10 進表記に変換するにはどうすればよいですか?

$calc値を科学表記法から 10 進数に変換することについて質問があります。何かアイデアはありますか?

0 投票する
2 に答える
1802 参照

scheme - 科学表記法の変換 - スキーム

2 つの非常に大きな数に対して単純な減算演算を実行しようとしています。

これを行うと、0.0 という結果が得られます。私は次の出力を期待しています:

拡張された科学表記法がその答えを教えてくれます。

183052866407243622723319.24395251 - 183052866407243622723319.00 = .2439521

これらの数値を、科学表記法ではなく 10 進数を使用してそのまま表現したいので、目的の結果を得ることができます。スキーム内でこれを行う方法はありますか? ヘルプ、ガイダンス、またはリファレンスをいただければ幸いです:)

DrRacket for Windows 64bit と R5RS Language を使用しています。

編集

私が実行している算術の例について、できるだけ具体的に説明したいと思います。

算術:

これと同じ掛け算を電卓で行うと、結果は => 168092622971502827156.7975214365 になります。

正確または不正確を使用しようとすると、次のようになります。

R5RS は正確/不正確をサポートしていないと思いますか? 私はそれを調べて、例は不正確->正確な手順を使用することを示しているので、私はそうしてこれを得ました:

そして、具体的に言うと、私は反対のことをしました:

それで、誰かが言ったように Big Float を使ってみました:

正確と同じ出力が得られます。私が単に望んでいるのは、電卓から得られる数値を保存することだけであり、それは非常に難しい作業のようです! これを理解していないのは愚かに聞こえるかもしれませんが、申し訳ありませんが、私は SCHEME の極端なアマチュアであることを覚えておいてください。ご協力いただきありがとうございます。:)