問題タブ [integer-arithmetic]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
81 参照

javascript - JavaScript 乗算演算

FireFox と Chrome コンソールの両方で次の式を試しました。

期待される結果: 1799

実際の結果: 1798.9999999999998

私も試しました:

期待される結果: 1799

実際の結果: 1798

なぜこれが起こっているのですか?どうすれば期待される結果を得ることができますか?

0 投票する
1 に答える
2878 参照

overflow - オーバーフロー算術ですか?

そのため、本を読むと、異なる符号を加算して同じ符号を減算すると、オーバーフローは発生しないと書かれています。しかし、これを行うときに質問があります: 185 - 122 122 のバイナリを 2 の補数に変換し、加算を行いました。これは異なる符号です: 185+(-122) で、それらを加算すると、符号ビット オーバーフローが発生しました。 100111111. でも左のMSBを切ったら正解です。オーバーフローですか?

0 投票する
1 に答える
136 参照

system - Invariant Generation Constraint ベースのアプローチ

「Sriram Sankaranarayanan、Henny B. Sipma、および Zohar Mann」の論文「Constraint-Based Linear-Relations Analysis」を読んで、未知の係数を持つ与えられたテンプレート不等式に Farkas Lemma を適用することにより、抽象的な解釈から生じる不動点方程式をチェックしました。これは、係数の値に対する制約を計算し、任意の解をテンプレートに代入すると、有効な不変関係が得られます。

私は例1(その紙の上) Let V = {x, y}L = { 0 }. 以下に示す遷移システムを考えてみましょう。各遷移は、変数 x、y を自動的に更新する並行プロセスをモデル化します。

Farkas Lemma (その論文の例 2) と consecution (遷移 τ1 および τ2 による) を使用して、開始をエンコードしました。

著者は次のように述べています。

まとめて x と呼ばれるΠ変数 を使用して、線形遷移システムを修正します。{x1 , . . . , xn }プレゼンテーションを簡略化するために、システムには単一の場所があると想定されています。場所 のテンプレート アサーションは ですα(c) = c1 x1 + · · · + cn xn + d ≥ 0。係数変数{c1 , . . . , cn , d}は集合的に c と呼ばれます。システムのトランジションは{τ1 , . . . , τm }で、ここでτi : , , ρi. 初期条件は Θ で表されます。例 1 のシステムは、提示されたアイデアを説明するための実行例として使用されます。

各遷移の開始と継続から得られた制約の結合によって得られた全体的な制約に到達しました (その論文の例 4)。

その時点で、そのすべてを のような解決でエンコードすることで、制約を解決できると思いZ3ます。実際、線形演算を直接エンコードすることでそれを行いましたZ3

個々の (範囲) 値として、 、、...、l0を介して場所での誘導不変量を把握していないと、うまくいかないと思います。c1c2cndo

Z3 は、すべての係数に対してゼロと答えました。

私は関連する例を見つけようとしましたが、今までそれを手に入れることができませんでした.

0 投票する
1 に答える
935 参照

java - Javaでの数式の解析

区間演算を使用して、特定の方程式の範囲を計算したいと考えています。たとえば、C = f(A, B) ここで

A と B の範囲を入力として指定し、f を含む文字列を指定します。私が持っている区間演算ライブラリは、f = log A などの単純な関数の範囲を計算します。したがって、上記の関数の範囲を計算するには、最初に cos(A) を見つけ、次に 1 - cos(A) のように複数のステップを手動で記述する必要があります。等式全体の範囲を取得するまで続けます。この方程式を解析する方法があるかどうかを見つけようとしています。おそらくパーサーによる計算中に計算されたステップを取得して、すべてのステップで範囲を見つけてパーサーを次のステップに進めることができるようにします。

より明確にするために、式の評価中の各ステップを知りたいです。たとえば、f = A + B (1-C) の場合。ソフトウェアは最初に 1-c を計算し、次に B * (1-C) を計算し、それを A に加算します。したがって、これまでに評価された式の範囲を見つけることができるように、すべてのステップで制御が必要です。

任意のポインタをいただければ幸いです。

0 投票する
0 に答える
24 参照

integer-arithmetic - 正の int で -1、負の int で +1 する関数

この質問をするキーワードがありません。私がやりたいことは:

何かキーワード?

0 投票する
2 に答える
2287 参照

c - 異なる int 型の操作

複数の異なる int 型を使用するプログラムがあります。

最もよく使用されるuint64_tのは と 標準intです。しかし、それらが混在する操作を安全に実行できるかどうかは疑問です。

たとえば、 があり、それに を追加して、その値を別の として保存しuint64_tたいとします。intuint64_t

そのようなことをすることは安全ですか?操作を使用する前にinttoをキャストする必要がありますか?uint64_t

私は本当にそれについての情報をオンラインで見つけることができません. それは許可されているだけかもしれませんし、誰もそれについて質問したり、私の Google クエリが間違っていたりすることはありません。

とにかく、基本的に私の質問は、さまざまなタイプの int を組み合わせて操作を行うことができるかということです。

0 投票する
1 に答える
1238 参照

vb.net - 1 つの TextBox で算術演算を行うにはどうすればよいですか?

たとえば、私は書き込みますTextBox1

4*5また3-2

答えを同じテキストボックスに表示するにはどうすればよいですか?

私はこれを試しましたが、とにかくうまくいきませんでした

最初の数字を表示するだけです