問題タブ [integer-arithmetic]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
700 参照

batch-file - FOR ループ変数演算 - バッチ スクリプト

だから私はクラスの1つの最終プロジェクトに取り組んでいます.目標は基本的にユーザーに初期投資を入力させることであり、価値が減価償却される年数...決定された一定の値によって減価償却されます投資額を年数で割ったもの。

forループでは、「簿価」から「年次」を減算し、毎年の新しい簿価を出力する必要があります...数学自体は正しく機能します(私は信じていますか?)。本来あるべきものですが、 for ループ内の echo ステートメントでは、出力に必要なものが得られません (簿価はループ内で変化しません)。

これでどこに行くべきかよくわかりません.Googleはまだ私をうまくやってくれていません. ご協力いただきありがとうございます。

0 投票する
1 に答える
1551 参照

binary - 算術に関するバイナリの利点

算術を行うときに、バイナリシステムが10進システムよりも優れていることを知っている人はいますか? それはテストの問題だったのですが、どこにも良い答えが見つからないようです...

具体的には:

次のトピックで、10 進数ではなく 2 進数を使用する利点を説明してください。

  • 整数加算

  • 整数乗算

  • 整数除算

  • 浮動小数点ストレージ

どんな助けでも大歓迎です。

0 投票する
5 に答える
347 参照

python - Python の算術演算子について

私が現在理解しているように、「+」や「-」などの算術オペランドは、整数クラスに属する特別な種類のメソッドです。算術演算をそのようにフォーマットする必要がないため、私には異なっているように見えx.__add__(y)ますx + y

私の最初の質問は次のとおりです。これまでのところ、私は正しいですか?

私の 2 番目の質問は次のとおり__add__です。メソッドで何が発生しますか? これはどのドキュメントにもありません。このメソッドは次のようなものしか想像できないため、これが無限回帰につながらないことを理解したいと思います。

しかしもちろん、「+」を説明しなかったため、無限回帰につながりました。

頭の中が少しぼやけているので、私の質問が明確であることを願っています。基本的に、私は Python の基礎が何であるかをよく理解しようとしています。(そして多分他の言語で?)

0 投票する
1 に答える
121 参照

c++ - 符号なし整数演算の警告

この質問が他の場所で回答されている場合は申し訳ありませんが、検索しましたが、まだ回答が見つかりません...

以下のコードをコンパイルすると、次の警告が表示されます。

これがコードの抜粋です(私の質問を説明するためのいくつかの例):

足し算以外の算術も試してみました。「int」から「unsigned short int」に変換していると主張して、コンパイラがこの警告をスローするのはなぜですか (特に明示的に unsigned としてキャストした場合)。また、2 番目のケース 'one += 1;' では、式の右辺が正の数であるため、コンパイラはそれを符号なし変数 'one' に追加しても問題がないように思われます。

また、最終テスト「one++;」は警告を生成しません。その理由はわかりません。

私はまだここで質問することに慣れているので、この質問が些細なことや不明確である場合はご容赦ください。ありがとう!

0 投票する
1 に答える
607 参照

integer - カルマン フィルターのオーバーフロー対応実装

3 軸加速度計と 3 軸ジャイロスコープをセンサーとして使用して、カルマン フィルターを実装してオブジェクトの向きを取得しようとしています。

このフィルターの予測フェーズの動的モデルの選択は簡単です。

しかし、私は手元に浮動小数点のサポートがなく、角度をモデル化するためにあらゆる精度が必要です。したがって、私の計画では、角度を 32 ビットの整数データとして表し、2 pi2^32 の小さなステップとして 1 回転を表すことにしました。結果として、整数オーバーフローはラップ (2 piと同じ向き0) を無料で処理します。

しかし、これはフィルターにも問題をもたらします。たとえば、推定角度が で、359°私の測定値がである場合、フィルターは大きな革新を想定しており、不確実性と奇数値につながります。

この可能なラップをフィルターに認識させる方法はありますか? 上記の場合のみの革新を与える

この問題を回避するために、角度の代わりに角度差を使用することを考えましたが、適切なモデルが見つかりません。

0 投票する
3 に答える
5649 参照

c - C の数値に 1 を加算する

C では数値に 1 を加算する必要があります。「+」、「++」などの算術演算子を使用せずにこれを行う必要があります。

次のコード行を書きました。

これは、整数の制限に達するまで正常に機能します。つまり、32 ビットの場合は 4294967295 です。しかし、他の多くの Web サイトで、同じことを実行するために 2 つの数値の AND を実行し、その後に XOR と左シフトを実行することがわかります。

私はCの初心者なので、私のアプローチが正しいかどうかを提案してください。

0 投票する
1 に答える
374 参照

algorithm - 平方根の小数部分で数値を見つける

次の 2 つの質問からなる数学の問題があります。

  • ある精度まで平方根の小数部分だけを知っている数値 N を見つけることができますか (小数部分は決して終わらないため、小数部分の近似のみです)
  • 答えはユニークですか?つまり、10 進数の平方根の値が等しい (たとえば最初の 50) 2 つの整数は見つからないということです。

例:

0,4142135623730950488016887242097 がある場合、それは 2 の平方根の小数部または 1234567890 の 0,418286444621616658231167581 であることがわかりますか? 2 番目の質問の答えは非常に簡単です。ルートは、10^50-1 の小数部分の可能な値よりもはるかに大きいため、複数の答えがあります。

あなたの助けや研究トラックにとても感謝しています。