問題タブ [floating-point-conversion]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - オンラインで表示するときに aspx ページが float 値を変更する問題
データベースからデータを取得してオンラインで表示するWebページがありますが、何らかの理由で値が0.4に変更されている0.400000005960464場合は859.8に変更されてい859.799987792969ます。私はそれをデバッグし、データベースから値を正しく読み取っていることを確認したので、それは問題ではありませんが.aspx、値を台無しにしているのはページです。これは私がそのページに持っているものです。変更されているのは DataField コンポーネント 1 と 2 です。
java - Java での 4 倍精度浮動小数点数 (128 ビット) の処理
Java の 128 ビット (4 倍精度) 浮動小数点数である別のシステムからの数値を利用する必要があります。
Java には同等の型がないことを考慮して、Java コードを使用して数値の精度を下げ、Java double に格納できるようにしたいと考えています。これは、c またはアセンブリを使用してかなり簡単に実行できますが、純粋に Java で実行したいと考えています。
Java では、4 倍精度の数値が 128 ビットのバイト配列に格納されていると想定するのが妥当です。
Javaのみを使用して、良い解決策はありますか? ありがとう。
javascript - JavaScript のみの FadeIn 関数
上記の関数は、コースを正しく実行しません。JavaScript は浮動小数を正しく追加しないためです。ということで、いろいろな方法を試した...
また、これにより10進数が得られるため、ハックを試みましたが、実際には何があっても整数が得られます。
上記の何が問題なのかは、文字列に変わり、うまくいかないことだと思いますが。したがって、問題は、これが非常に必要であるため、小数をどのようにインクリメントするかです。
例
c - nesC: 浮動小数点数を整数に変換する
uint16次のような浮動小数点数のxor を作成したい:
テストを実行すると、次のエラーが発生します。
x16ビットの整数値に変換するにはどうすればよいですか?
objective-c - float型で「モジュロ」を行う方法はありますか
単純に、それは私が置くときだけです：
エラーが返されます。浮動小数点型でモジュロを行う方法はありますか、それとも変換を行う必要がありますか? xCode IDE と Objective-C 言語を使用しています
c# - C# 浮動小数点精度
誰でもここで何が起こっているのか説明してもらえますか:
どの出力:
1000000.13
1000000.125
私は期待しました：
オブジェクト o は基本的な float 型を持ちます (オブジェクト {float} として型付けされているウォッチ ウィンドウを観察すると、発生するようです)。
その 1000000.123f は 1000000.125 として f に格納されます (32 ビットでの IEEE754 近似値?)
double が 1000000.125 も格納すること ( f に期待したものが含まれていないように見えても、発生するようです)
ToString で往復形式を要求すると、どちらの場合も 1000000.125 が返されます。
fをひもでつなぐときに1000000.13を取得するために私が間違っていることを誰かに教えてもらえますか?