問題タブ [scientific-notation]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
5975 参照

c++ - ファイルC ++から科学表記法でfloatを読み取る方法は?

次の形式のファイルがあります。

私はこのコードでそれを読みました:

科学表記 float を読み取ると、型の不一致が発生します。

科学表記法フロートを含むすべての数値を読み取るにはどうすればよいですか?

0 投票する
1 に答える
1049 参照

performance - 数値の正規化された工学的表記法を計算する最速のアルゴリズム

テストケース :

35000

-> 数値の正規化された指数表記は 3.5 * 10E4 になります

-> 工学表記は 35 * 10E3 になります

これを行う単純なアルゴリズムでは、必要な表記が得られるまで数値を 10 で割り続けます。ただし、これはアルゴリズムが O(ゼロの数) になることを意味します。もっとうまくやれるでしょうか?

0 投票する
3 に答える
2481 参照

mysql - MySQLコマンドラインクライアントで科学的記数法を無効にしますか?

多くの数値列(一部のINT、一部のFLOAT)を持つMySQLテーブルがあります。mysql Ver 14.14 Distrib 5.1.41, for debian-linux-gnu (x86_64) using readline 6.1次のように、MySQLコマンドラインクライアント(具体的には)でクエリを実行したいと思います。

残念ながら、数値フィールドの値が10 ^ 6を超えると、このクライアントは結果を科学的記数法で表示するため、結果を読み取ることが困難になります。

クエリの各フィールドをFORMAT化することで問題を修正できましたが、クエリしたいフィールドとテーブルがたくさんあります。代わりに、すべてのクエリで科学的記数法を無効にするように設定できるクライアント変数またはフラグを見つけたいと思っています。

--helpまたはページで1つを見つけることができず、manGoogleまたはこのサイトを検索することもできませんでした。代わりに、私が見つけたのは、<insert-programming-language>のMySQLAPIを使用する際の科学的記数法の保持/削除に関する議論だけです。

ヒントをありがとうございます。

::編集::

これがテーブルの例です...

およびいくつかの値の例..。

ここで、3番目のフィールドにロードした実際の値は次のとおりです。

値を操作すると、正確に表示されます。

クライアントの何かが、テーブルにさらに有効数字があるにもかかわらず、6つの有効数字しか表示できないように強制しているようです。

次のようなクエリの場合

可能だった、それは素晴らしいだろう!そうしないと、データを検査する必要があるときはいつでも、「ROUND()」で100個の列名を個別にラップするのに時間がかかりません。

興味深いことに、私は時々phpMyAdminインターフェイスを使用して、これらのテーブルの一部のコンテンツを参照します。そのインターフェイスにも、この有効数字の6つの制限があります。したがって、CLIだけに限定されません。

0 投票する
1 に答える
657 参照

csv - Mathematica は.csvから大きな整数をインポートしますか?

CSV から Mathematica にデータをインポートしています。CSV の最初の数行は次のようになります。

Mathematica はこれをほぼ完全に処理します:

問題は、これらの大きなタイムスタンプが科学表記法に変換され、精度が失われることです。

ご覧のとおり、1328661531035 は 1328661541700 と同じではありませんが、どちらも 1.32866*10^12 としてインポートされるため、インポートされたデータは 2 つを区別するほど正確ではありません。Mathematica が任意の長さの整数を処理できることは知っていますが、これらの数値を損失のある科学的表記法に変換するのではなく、(大きな) 整数としてインポートするにはどうすればよいでしょうか?

0 投票する
4 に答える
338724 参照

r - R に指数表記 (e+10 など) を使わないように強制しますか?

e+10-like 表記を使用する代わりに、R に通常の数値を使用させることはできますか? 私は持っている:

同じベクトル内にあり、見たい:

昔ながらのプログラムの出力を作成しており、.txt を使用してテキスト ファイルを作成する必要がありますcat。これまでのところ問題なく動作しますが、e+10そこでの表記は使用できません。

0 投票する
4 に答える
172356 参照

python - ネストされたリストから配列を作成するときに、Numpyの科学的記数法を抑制します

次のようなネストされたPythonリストがあります。

次に、Numpyをインポートし、印刷オプションをに設定します(suppress=True)。配列を作成するとき:

私は一生の間、科学的記数法を抑制することはできません。

単純なnumpy配列を直接作成する場合:

問題はなく、次のように出力されます。

誰かが私の問題が何であるか知っていますか?

0 投票する
1 に答える
8305 参照

format - SAS - 指数表記の数値を含む csv ファイルからインポートするときに実際の数値を保持する方法

長い数値 ID を持つファイルを csv ファイルから SAS にインポートしたときに、数値をテキストに変換したいと考えていました。しかし、これらの数値は科学表記法で保存されていたため、変換すると最後の桁がすべてゼロになりました。

たとえば、7.3139908E14 は ino 731399080000000 になりましたが、731399076376199 である必要があります。

とにかくこれを回避する方法はありますか?最終的には、重複排除を行ってから、このファイルをテキスト ファイルとしてエクスポートする必要があります。

ありがとう!

0 投票する
1 に答える
723 参照

c# - 科学的記数法をより読みやすい形式でdoubleで表示する

サードパーティのライブラリを介してPLCから値を読み込んでいますが、doubleとして保存すると、値は科学的記数法で表示されます。

ただし、 PLCの値は1.234、アプリケーションをデバッグするときに、doubleに格納されている値は次のようになります。5.27326315571927E-315

1.234これをラベルで表示していますが、科学的記数法として表示したいと思います。

どうすればこれを変換できますか?

0 投票する
1 に答える
672 参照

php - is_numericはfloat(ランダムな文字列)を誤って識別します

変数で数値を探しています。見つからない場合は文字列を引用します。それ以外の場合は引用符で囲まれません。例:

たまたま文字列は科学的記数法であり、PHPはそれを数値として認識します。これをどのように回避する必要がありますか?英字があるかどうかを確認するだけでよいのでしょうか、それともis_numericに似た、科学的数値を除外する別の関数があるのでしょうか。