問題タブ [scientific-notation]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - C#で科学表記法文字列からfloatに変換する
C# を使用して、「1.234567E-06」などの科学表記文字列から浮動小数点変数に変換する適切な方法は何ですか?
ms-access - In Access 2007 CSV エクスポート: 科学表記法を無効にする
Access 2007 から CSV をエクスポートすると、小数が指数表記に自動的に変換されます。
残念ながら、それらを受け取るツールはこれらのフィールドをテキストとして扱い、そのまま表示します。
エクスポートされる値は、一部の Excel リンク テーブルに対して実行されるクエリからのものであり、クエリ ビューに完全に表示されます。
科学表記法への自動変換を無効にする方法はありますか。
つまり、クエリで 0.007 と表示される場合、出力 csv では 7E3 ではなく 0.007 と表示されますか?
注: これには Excel と Access を使用するように制限されています。私が SQL Server に切り替えたいと思っているのと同じくらい、仕事用のラップトップに SQL Server を置いたら、妻は不満を抱くでしょう。
c - cで定義された定数の最後に「e0」を使用するのはなぜですか?
一部の C プログラムを呼び出してテキスト編集を行う perl アプリケーションの問題をデバッグしようとしています。
BATCH_JV_CSH_MAX は、金額フィールドの最大値をテストするために使用されます。現在、金額が 99,999,999.99 を超えるとエラーが表示されます。999,999,999.99 までの値を受け入れることになっています。とにかく、それはドキュメントに記載されていることです。
これはインクルードファイルにあります:
プログラムがどのように機能するかはまだわかりません。おそらく、数値以外の値を取り除き、文字を連結します。続行する前に、金額の末尾にある「e0」の意味を知りたいです。このグループに質問する前に、Safari でいくつかの C プログラミングの本をテキスト検索しました。
この値はエラー メッセージに出力されるため、'999999999' は 1e9 よりも意味があります。
値は次のように使用されます。
get_tot_amt1() は、別の C プログラムで計算された値 tot_amt1 を取得します。「スタティックダブル」です。
うん、やるべき仕事がたくさんある。これは、スペースで区切られたレコードを読み取り、固定形式のレコードを書き出すプロセスの一部です。
ありがとう。キャシー
floating-point - SAS では、なぜ指数表記の数値リテラルは、明示的に書き出された数値とは異なる数値を与えるのですか?
次の SAS コード:
私のWindowsマシンでは次のように出力されます:
信頼できるのは最初の 15 ~ 16 桁のみであることは理解していますが、基になる数字が異なるのはなぜですか? SAS は 1e25 をどのように計算していますか?
編集: 10 の他の累乗を 1e25 まで出力するように求められました。次のプログラム:
次の出力が得られます。
lua - 科学表記法を使用せずにLuaで膨大な数を出力するにはどうすればよいですか?
エポックからのマイクロ秒数を示す Lua のタイムスタンプを扱っています (例: "1247687475123456")。
私は本当にその数字をそのひどい栄光のすべてで印刷できるようにしたいと思っていますが、ルアはそれを科学表記法で印刷することを主張しています. フォーマットされた文字列の印刷に関する入手可能なドキュメントを精査しましたが、使用可能なコマンドは「科学表記法で印刷する (%e/%E)」と「数値が非常に長い場合は科学表記法で自動的に印刷する (%g)」だけです。 . 数値を通常の形式で出力するためのオプションはないようです。
元の数値を取得し、10 で割って数字をループで出力する関数を作成できることはわかっていますが、それは洗練されていない面倒のように思えます。確かに、言語に組み込まれているこれを行う方法はありますか?
java - Java DecimalFormat 科学表記法の質問
Java のDecimalFormatクラスを使用して、数値を Scientific Notation で出力しています。ただし、問題が 1 つあります。値に関係なく、文字列を固定長にする必要があります。現在、これは私のフォーマットがどのように見えるかです:
これにより、次の組み合わせが得られます: 1.0E1、1.0E-1、-1.0E1、および -1.0E-1。
setPositivePrefixを使用して、+1.0E1、+1.0E-1、-1.0E1、および -1.0E-1、または好きなものを取得できますが、べき乗の符号には影響しません!
固定長の文字列を使用できるようにする方法はありますか? ありがとう!
編集: ああ、Java の既存のDecimalFormat APIを使用してそれを行う方法はありませんか? 提案をありがとう!既に配置されているインターフェイスによって制限されているため、DecimalFormatをサブクラス化する必要があると思います。
c++ - Scientific ofstream の指数は 2 桁のみ
cplusplus.com によると、出力ストリームのフォーマットフラグを科学表記法に設定すると、
of.setf(ios::scientific)
指数に 3 桁のプラスと符号が表示されます。ただし、出力には2つしかないようです。何か案は?GCC 4.0.1 を使用して Mac OS でコンパイル。
これが私が使用している実際のコードです:
および出力の例:
ありがとう
c++ - 科学表記法の文字列 C++ から double への変換
次のような double で満たされたデータベースがあります。
そのような数値を C++ で double に変換する方法を知っている人はいますか?
この種のことを行う「標準的な」方法はありますか? または、自分の関数をロールする必要がありますか?
今、私はこのようにsthをやっています:
ありがとう!
python - E の代わりに D を使用する Python 科学表記法
Fortran プログラムによって生成される一部の結果ファイルは、倍精度数 (科学表記法) を のD
代わりに文字を使用して報告E
します。たとえば、次のようになります。
Python を使用して大量のこのデータを処理する必要がありますが、D
表記の数字を読み取れないことに気付きました。
D
ロケールを変更して Python にその意味を知らせることはできE
ますか? グローバルな検索と置換を行いたくありません。