問題タブ [numbers]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
8 に答える
1141 参照

database - 1 未満のパーセンテージを 1 より大きい数値として格納する正当な理由はありますか?

SQL Server 200x を使用するプロジェクトを継承しました。このプロジェクトでは、問題のドメインで常にパーセンテージと見なされる値を格納する列が、10 進数の 1 より大きい値として格納されます。たとえば、70% (文字どおり 0.7) は70として格納され、100%100として格納されます。取得した値に対して * 0.01 を、値を永続化する前に * 100 を覚えておく必要があることを除けば、問題にはならないようです。それ自体で。それは私の頭を爆発させます...それで、私が行方不明になる正当な理由はありますか? 疑似パーセンテージで動作するように書かれたかなりの量のコードがあることを考えると、それを修正する説得力のある理由はありますか?

100% を超える場合がいくつかありますが、たとえば、そのような場合に値が 1.05 として保存されない理由がわかりません。

編集: 頭の調子が良くなり、少し頭が良くなりました。すべての洞察に感謝します。

0 投票する
3 に答える
5341 参照

javascript - 正規表現は2つの数値を比較します

どうにか正規表現で 2 つの数値を比較できますか? 10-12 では正しいが、12-10 では正しくない正規表現が必要です。つまり、10 は 12 より小さい必要があります。Javascript で実行したいと考えています。

0 投票する
4 に答える
13889 参照

performance - Number VS Varchar(2) 主キー

私は自分のデータベース(Oracle)を設計する必要があるプロジェクトのこの時点にいます。通常、ステータス テーブルと国テーブルでは、数値の主キーは使用しません。たとえば、

これらのテーブルは静的であり、アプリケーションを通じて更新されず、将来変更されることは予測されないため、これらの値を外部キーとして使用するテーブルで更新の問題が発生する可能性はありません。

アプリケーションのメイン テーブルは、ステータスと国 (複数回、例: 出発地の国、目的地の国) を使用し、年間 600000 行が追加されることが予想されます。

私の質問は、これらの VARCHAR(2) キーは、3 つのテーブルの結合をクエリするときにパフォーマンスに影響を与えるでしょうか。最初のものは 2 番目のものよりも大幅に遅くなりますか?


説明:

ステータスはバイナリではありません (テーブル名の横にある「最大 6」)。値はおそらく次のようになります。

デコードされた値をユーザーに表示する必要があるため、名前が必要です。

0 投票する
4 に答える
4833 参照

perl - Perlはどのようにしてスカラーを文字列または数値として扱うことを決定しますか?

次のコードとその出力について考えてみます。

コード

出力


ご覧のとおり、2番目の変数は文字列として扱われ、1番目と4番目の変数は数値として扱われます。誰もが根底にある論理が何であるかについて何か考えを持っていますか?

追加された算術計算を編集しても、問題は完全には解決されません($ BSA変数を参照)。


0 投票する
5 に答える
67578 参照

oracle - Oracle 浮動小数点数と数値

Oracle のドキュメントに矛盾する参照があります。10 進数を FLOAT に格納する方法とデータベースの NUMBER 型に格納する方法に違いはありますか?

C などから思い出したように、float には int にはない精度の制限があります。Rg、float の場合、0.1(Base 10) は 0.110011001100110011001101(Base 2) として概算されます。これは、およそ 0.100000001490116119384765625 (Base 10) のようなものです。ただし、int の場合、5(底 10) は正確に 101 (底 2) です。

これが、C で次のコードが期待どおりに終了しない理由です。

ただし、Oracle のドキュメントの他の場所で、FLOAT が NUMBER として定義されていることがわかります。私が理解しているように、Oracle の NUMBER 型の実装では、C の float と同じ問題は発生しません。

それで、ここで本当の話は何ですか?Oracle は、float/FLOAT で起こると予想される標準から逸脱していますか?

(私がそれらを使用する目的については、ハリケーンの中の蜂の屁の違いであると確信していますが、0.1 * 10が1.00000000000000001になると疑問が生じることはわかっています)

0 投票する
2 に答える
1843 参照

numbers - BIRTに関する複数の質問

私はBIRTを初めて使用します。

  1. データベース値に基づいてHEADINGを出力する必要があります。それ、どうやったら出来るの?
  2. 報告しているフィールドの1つでブレークしたときに空白行を残すにはどうすればよいですか?
  3. フッターで「YのページX」と言う必要があります。ここで、Yは総ページ数ですか。
0 投票する
5 に答える
100290 参照

c# - 2つの数字の違い

2つの10進数の差(距離)を計算するには、完璧なアルゴリズムまたはC#関数が必要です。

たとえば、
10025違いは75
100であり、-25125-100であり、-115
15-500であり100600です。

これを計算するためのC#関数または非常に洗練されたアルゴリズムがありますか、それともifsを使用してすべてのケースを個別に処理する必要があります

そのような関数またはアルゴリズムがある場合、それはどれですか?

0 投票する
10 に答える
66530 参照

math - 数学-マッピング番号

数値をaとbの間で線形にマッピングして、cとdの間を移動するにはどうすればよいですか。

つまり、2から6までの数値を10から20までの数値にマップしたいのですが、一般化されたケースが必要です。

私の脳は揚げられています。

0 投票する
7 に答える
874 参照

numbers - ピアノ(ピアノ)ナンバー?

Steve Yegge のポッドキャスト (#29、21:29 頃) を聞いていて、その中で「話している相手が賢いかどうかを見分ける方法」について話していました。 「ピアノの数字」や「ラムダ計算」などの「賢い人々のこと」(私は言い換えています)について話すことでした。
私は世界で最も賢い人ではないことを認めるのに十分安全ですが、Googleでさえ「ピアノ番号」が何であるかを教えてくれないようです. それで、ポッドキャストで言われたことを聞き間違えましたか? 「ピアノ番号」とは誰か教えてもらえますか?

0 投票する
7 に答える
43847 参照

html - HTML から Excel: Excel に列を数値として扱うように指示するにはどうすればよいですか?

Excel で HTML を開くときに、次のことを達成する必要があります(Response.contentType="application/vnd.ms-excel")

  • Excel に td セルの内容を数値として見なさせる
  • 上記を作成して、後続のユーザーが入力した数式がこれらのセルで機能するようにします (スプレッドシートが開いている場合)

style="vnd.ms-excel.numberformat:0.00"これまでのところ、問題の td セルへの追加に成功しました。Excelでセルを右クリックすると、セルの内容が数値として正しく表示されますが、数式は機能しません。

成功した場合、カスタム要件に従って適切な数式を使用して Web Excel レポートをユーザーが拡張できるため、この手法は非常に役立ちます。前もって感謝します。