問題タブ [multiplication]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
1821 参照

c# - 間違った値を保持する double 変数

Math.Atan2 または C# のクラス インスタンスの問題に類似した問題で、2 つの double を 追加すると間違った結果が返される

それは単純な行です:

piBy180 * 度 = -3.1415926535897931 しかし、Val = -3.1415927410125732

代替テキスト http://www.imagechicken.com/uploads/1262936639009840000.jpg どうすればいいのかまったくわかりません.. これに関していくつか質問してください。

piBy180 が正しい値を保っているのはすごいことです。

他の関数でも同じことが起こっていますが、正しい値を取得するために操作した方法があります。

MS Visual Studio の C#.net SP1 を使用しています。

0 投票する
2 に答える
4089 参照

assembly - mips アセンブリで 32 ビットより大きい数値を出力するにはどうすればよいですか?

私の mips アセンブリ コードでは、結果が 1 つのレジスタに収まらないため、multi 命令を使用して 2 つの大きな数を乗算しました。これは、数値が hi および lo 特殊レジスターに保存されることを意味します。私の問題は、乗算の結果をどのように出力するかです。hi と lo にアクセスして他のレジスタ (つまり、$t0、$t1) に入れることはできますが、結果を出力するために 2 つの数値を結合する方法がわかりません。ありがとう。

0 投票する
4 に答える
29804 参照

c - 除算結果は常にゼロ

このCコードを取得しました。

変数 't' が (printf 関数で) 常にゼロである理由を知りたいですか?

0 投票する
7 に答える
2690 参照

c - ソフト乗算および除算アルゴリズムはどこにありますか?

私は、ハードウェアの乗算と除算を行わないマイクロコントローラーに取り組んでいます。コンパクトなサイズと効率のバランスが取れた、これらの基本的な操作のためのソフトウェアアルゴリズムを作成する必要があります。私のCコンパイラポートは、C開発者自身ではなく、これらのアルゴリズムを採用します。

私のgoogle-fuは、これまでのところ、このトピックに関するほとんどのノイズを上げています。

誰かが私に何か有益なことを教えてもらえますか?add/subおよびshift命令を使用できます。テーブルルックアップベースのアルゴリズムも私には役立つかもしれませんが、いわばコンパイラのバックエンドに詰め込むのが少し心配です。

0 投票する
7 に答える
930 参照

c# - (int)(33.46639 * 1000000)が33466389を返すのはなぜですか?

(int)(33.46639 * 1000000)戻り値33466389

なぜこれが起こるのですか?

0 投票する
7 に答える
9793 参照

java - double に -1 を掛けても、現在の答えのマイナスが得られないのはなぜですか?

double 値に -1 を掛けて負の値を取得しようとしています。それは私にプラスの価値を与え続けます

編集:すべてのコードを掲載しています。

パブリック クラス DecToTime {

}

印刷結果は

13.93 - マイナス - 2.0

これは正しいですが、2.0 は -2.0 でなければなりません

0 投票する
6 に答える
42361 参照

c++ - 文字を整数で乗算する (c++)

char を int で乗算することは可能ですか?

たとえば、数値が発生するたびに * を使用してグラフを作成しようとしています。

のようなものですが、これは機能しません

0 投票する
3 に答える
11158 参照

c++ - C ++で定数を使用して複素数を乗算する

次のコードはコンパイルに失敗します

エラー: '3 * i' の 'operator*' に一致しない b*i が動作します。

0 投票する
2 に答える
1340 参照

math - デルタ時間を使用するように乗算計算を変更する

この関数は、ゲーム ループで呼び出されます。まず、一定の 30 FPS で実行されていると仮定すると、deltaTime常に 1/30 になります。

ゲームが変更され、deltaTime常に 1/30 ではなく可変になります。「1秒あたりの効果」を同じに保つために、どのようdeltaTimeに計算に組み込むことができますか?x


そして何について

0 投票する
3 に答える
1353 参照

c - C パート 2 で char と int を乗算する

私が次のことをした場合:

8 ビットの数値を掛け合わせて 32 ビットの出力を生成することに問題がないことがわかります。

しかし、もしそうなら

この場合、2 つの 32 ビット変数が乗算されてオーバーフローし、64 ビット変数に代入されました。

では、int を乗算するときにこのオーバーフローが発生し、char を乗算しないのはなぜでしょうか? 私のマシンのデフォルトのワードサイズに依存していますか? (32ビット)