0

重複の可能性:
フロートを人間が読める分数に変換する方法は?

0.595781整数の分子と分母の値のみを使用する商を使用して、可能な限り近づけたい浮動小数点値があります0 to 1023 (10-bits)

これを行う直感的な方法 (少なくとも最初から)は、かなり近い一致595/1000を提供する使用です (エラーは です)。0.5550.040781

しかし、( のエラー)のより良い一致が597/1002あります。より良い試合もあるかもしれません。私は、分子と分母の値を元の値に近づける方法で試行錯誤することで、2 番目の商にたどり着きました。0.5958080.0000273

次に、分子と分母の整数値を直接取得するためのすべての基準が与えられた方法があるかどうか疑問に思いました。

のボー レート ジェネレーターをセットアップするために 2 つの整数値が必要であることに疑問がある場合に備えて、Infineon XE167G device.

どんなアイデアでも大歓迎です。よろしく

4

1 に答える 1

0

16-bit整数を使用している場合はnumerator = 59578、分母に力率10、たとえばを保持するだけで済みます5。したがって、答えは になります59578/(10^5)

このアプローチを使用すると、少なくとも4正確な場所を維持できます。ちょっとした考え...

于 2012-09-27T17:13:41.297 に答える