問題タブ [division]

重複の可能性：C＃で1/252 = 0の
除算を行うIntとDouble？

やあ、

金曜日だからかもしれませんが、私には理解できません。

最後の操作が0であるのはなぜですか？：S

敬具。

Pythonに整数のリストがある場合、たとえばL = [4,8,12,24]、最大公約数/除数（この場合は4）をどのように計算できますか？

ユーザーの全体的な比率を把握しようとしています。基本的に、比率を計算するために確認する必要がある2つの列、total_emailsとtotal_hoursがあります。

これは比率を複数回加算しているように見え、.45のようなものを取得する必要があるときに8.45のような数値を取得します

私が間違っていることについて何か考えはありますか？

ユーザーからMadExceptからクラッシュレポートを受け取りました。例外は無効な浮動小数点演算でした。

ただし、奇妙な部分は、コールスタックが@FSafeDivideで停止することです。

私はグーグルをして、これが正しく除算をしなかった特定のペンティアムチップのチェックであることがわかりました。テストが失敗した場合、すべての分割はハードウェアではなくソフトウェアで行われます。コンパイラ設定でPentium-SafeFDIVオプションをオンにしています。

これがエラーの原因でしたか？また、例外クラスであるEInvalidOpがスタックオーバーフローなどである可能性があることもどこかで読みました。

あなたがそれを読みたいならば、これはメッセージを除いて狂牛病のスニピットです。

例外クラス：EInvalidOp例外メッセージ：無効な浮動小数点演算。

これは精度の問題ではないと思います。答えは約 0.226 になるはずです。正確なコードは次のとおりです。

I値を取得している単なるマトリックスです。MATLAB からの出力は次のとおりです。

私は何が欠けていますか？

MYSQL の奇妙な問題を見てください。

列 3 を見てください。結果は 0.02876121 ですが、実際の結果は列 4 = 0.02876 になるはずです。MYSQL が小数点でフォルト値を与えるのはなぜですか?

*もう1つのことは、「Where column = 'uniquevalue'」を追加して必要な結果を返すと、間違った値になるだけです。where条件を削除して、テーブル内のすべてのレコードを指定すると、値は正しいです。

したがって、数値の範囲が「0〜1024」で、それらを「0〜255」にしたい場合、数学では、入力を最大値（この場合は1024）で除算するように指示されます。私は0.0から1.0の間の数です。次に、これに宛先範囲（255）を掛けます。

それが私がやりたいことです！

しかし、何らかの理由で（Processingを使用して）Javaでは常に値0が返されます。

コードはこれと同じくらい簡単です

しかし、私はちょうど0.0を取得します。doubleとintを試しました。すべて無駄に。どうして！？

教授からのこの質問に問題があります。ここに質問があります：

2つのパラメーターを受け取る関数typing_speedの定義を記述します。1つ目は、特定の時間間隔で人が入力した単語の数（intがゼロ以上）です。2番目は、秒単位の時間間隔の長さ（ゼロより大きいint）です。この関数は、その人のタイピング速度を1分あたりの単語数（float）で返します。

これが私のコードです：

「係数」は、適切に丸められていないなどの理由で0が割り当てられていることを知っています。これらの小数を正しく処理する方法がわかりません。フロートはどうやら何もしていません。

どんな助けでもありがたいです、ありがとう。

! & ^ ~ やシフトなどのビット単位の演算子のみを使用して、数値 (a/(2**b) を計算する必要があります。次のヒントが与えられましたが、C は初めてで、コードの意味がわかりません。

誰かが私にそれを説明できますか？

a>>b は機能すると思いましたが、負の数では機能しないと思います。