問題タブ [division]

これらの2つのフロートがあるとしましょう:

を印刷cすると、次のようになります。

除算を行うとcalc.exe、結果が 0.0000476837158203125 になります。追加のgemをインストールせずにRubyで同じことを達成する方法はありますか?

また

等

結果 8.849999 を返します。8.85 ではありません。

誰かがこれを説明できますか、それともフロートの使用を避けるべきですか?

I am currently designing and implementing a small programming language as an extra-credit project in a class I'm taking. My problem is that the language has three numeric types: Long, Double, and Fraction. Fractions can be written in the language as proper or improper fractions (e.g. "2 1/3" or "1/2"). This fact leads to problems such as "2/3.5" (Long/Double) and "2/3"(Long/Long) not being handled correctly by the lexer.The best solution that I see is to change the division operator. So far, I think "\" is the best solution since "//" starts comments.

Would you pick "\", if you were designing the language?

Would you pick something else? If so, what?

Note: changing the way fractions are written is not possible.

Thanks in advance for your help,

-EDIT-

Current operators are:

** (power)

* (multiply)

% (modulus)

+ (add)

- (subtract and negation)

~ (reciprocal)

! (NOT)

> (greater)

< (less)

>= (greater-equal)

<= (less-equal)

== (equality)

<> (inequality)

& (AND)

| (OR)

^ (XOR)

?? (null-coalesing)

= (assignment)

Note: I am under no strictly binding demands by my teacher; however, I basically convinced him that I could turn a simple fraction calculator into a language. Changing the fraction's syntax would go against the fraction calculator's syntax for fractions, which is preferably avoided.

8 ビット MCU (8051 アーキテクチャ) を使用するデバイスのファームウェアに取り組んでいます。SDCC (Small Device C Compiler) を使用しています。私の回路が駆動しているステッピングモーターの速度を設定するために使用する関数があります。速度は、タイマーのリロード レジスタに目的の値をロードすることによって設定されます。モーターへの 1 秒あたりのパルス数を表す変数 MotorSpeed が 0 から 1200 の範囲にあります。MotorSpeed を正しい 16 ビット リロード値に変換する関数を以下に示します。浮動小数点演算がかなり遅いことは知っていますが、これを行うより高速な方法があるかどうか疑問に思っています...

java.math.BigDecimal10進数で無限精度の演算を実行する必要性に対するAnswer™だと思いました。

次のスニペットについて考えてみます。

私は合格することを期待しassertていますが、実際には実行はそこに到達していません：スローされるone.divide(three)原因です！ArithmeticException

この動作はAPIで明示的に文書化されていることがわかります。

の場合divide、正確な商は無限に長い小数展開を持つ可能性があります。たとえば、1を3で割った値です。商に非終了の小数展開があり、正確な結果を返すように演算が指定されている場合、anArithmeticExceptionがスローされます。それ以外の場合は、他の操作の場合と同様に、除算の正確な結果が返されます。

APIをさらに参照すると、実際には、不正確な除算divideを実行するさまざまなオーバーロードがあることがわかります。

もちろん、今の明らかな質問は「ポイントは何ですか？」です。財務計算など、正確なBigDecimal算術が必要な場合の解決策だと思いました。正確に言えない場合、これはどれほど役立つでしょうか？それは実際に一般的な目的を果たしますか、それとも幸いなことにまったく必要のない非常にニッチなアプリケーションでのみ役立ちますか？dividedivide

これが正しい答えではない場合、財務計算の正確な除算に何を使用できますか？（つまり、私は財務専攻を持っていませんが、彼らはまだ除算を使用していますよね???）。

ビットシフトと加算のみを使用して乗算と除算を行うにはどうすればよいですか?

PHPで数のすべての複数を検索したいと思います。

私はこのようなものを使用しています

$count20に等しくない場合に解決します。

$countしかし、20、40、60、80、100、120、140、160などに等しくないかどうかを確認するためにもこのスクリプトが必要です。

何か案は？モジュラス記号（%）を使用する必要があると思いますが、わかりません。

Javaアプリケーションでこの簡単な計算を試みています:

明らかに、出力が になることを期待していますがb=0.3、実際にはそうではありませんb=1。

何？！なぜこれが起こるのですか？

私が書く場合：

という正しい結果が得られますb=0.3。

ここで何がうまくいかないのですか？

NUnit を介して次の C# コードを実行すると、

したがって、DivideByZeroException がスローされないか、NUnit がキャッチしません。この質問に似ていますが、彼が得た答えは私にはうまくいかないようです. これは、NUnit 2.5.5.10112 と .NET 4.0.30319 を使用しています。

何か案は？

正のフロートAが別の正のフロートB（C99）の逆二乗よりも小さいことを確認したい場合、Bが非常に小さいと、何か問題が発生する可能性がありますか？

私はそれを次のようにチェックすることを想像することができました

しかし、Bが十分に小さい場合、これはおそらく無限大になりますか？それが起こったとしても、コードはすべての状況で正しく機能しますか？

同様の流れで、私はするかもしれません

...Bが小さい場合はB*Bがゼロになる可能性があるため、これは少し良いかもしれません（これは本当ですか？）

最後に、私が間違っているとは想像できない解決策は

これがゼロ除算になるとは思わないが、Aがゼロに近い場合は問題が発生する可能性がある。

つまり、基本的に、私の質問は次のとおりです。

• Xがゼロより大きい（ただし小さい）場合、1 / Xは無限大になる可能性がありますか？
• Xがゼロより大きい場合、X * Xをゼロにすることはできますか？
• 無限大との比較は、私が期待するように機能しますか？

編集：疑問に思っている人のために、私はやることになりました

どの乗算が最初に発生するかが視覚的に明確であるため、この順序で実行しました。