問題タブ [ieee-754]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
526 参照

apache-flex - バイトを数値に変換する方法 (IEEE754 を数値に) Actionscript

Actionscript でそのような C# コードを記述する方法は?

0 投票する
8 に答える
46907 参照

c - c--printfを使用してieee754floatを16進数に変換します

理想的には、次のコードはIEEE 754表現で浮動小数点を取り、それを16進数に変換します。

何が悪いのかよくわかりません。数値を16進数に変換していますが、非常に間違っています。

だからそれは何かをしている、私はただ何をしているのかよくわからない。

助けていただければ幸いです

0 投票する
3 に答える
1715 参照

c - memset(ary、0、length)は、double配列にゼロを入力するポータブルな方法です。

重複の可能性:
doubleの配列をゼロにするためのより高速な/優先されるmemsetまたはforループ

次のコードは、memsetを使用してすべてのビットをゼロに設定します

これはすべてのプラットフォームで機能すると思いますか?

doubleデータ型は常にieee-754標準に対応していますか?

返信ありがとうございます。::filltemplateコマンドもありがとうございます。しかし、私の質問は、より二重のデータ型という意味でした。

たぶん私は純粋なcのために私の質問を書くべきでした。とにかくありがとう。

編集:コードとタグをcに変更

0 投票する
3 に答える
666 参照

javascript - Windowsの「バイナリ」フロートをASP jscript変数に読み込む

実数 (8 バイトの "double" 型) をバイナリで、つまり 8 バイトのパック配列として格納する従来の Windows アプリによって生成されたファイルを読み取る必要があります。8 バイトのグループを読み取ることはできますが、それを ASP JScript コードに提示して、実数を再び取得するにはどうすればよいでしょうか。

または別の言い方をすると:

ファイルが Windows (Delphi) プログラムによって作成されたとします。

ファイルを調べると、次の 8 バイトが含まれていることがわかります。

これは IEEE 形式の実数です。これらの 8 バイトを ASP で読み取ることができると仮定すると、実数を再び取得する簡単な方法はありますか?

0 投票する
2 に答える
1459 参照

c# - MBFシングルおよびダブルをIEEEに変換

利用可能なフォローアップ:詳細についてのフォローアップがあります。MBFをIEEEに変換するを参照してください。

まだ使用されているレガシーデータがいくつかあります。バイナリファイルの読み取りは問題ではなく、数値形式は問題です。すべての浮動小数点数はMBF形式(シングルおよびダブル)で保存されます。私はMSDNボードでそれについてのトピックを見つけましたが、それは単一の値のみを扱っています。また、可能な限りAPI呼び出しを避けたいと思います。

誰かがダブルスの解決策を持っていますか?

編集:誰かがそれを必要とする場合に備えて、これがOption Strict私が最終的に得たVB.NETコード(準拠)です(C#に変換して編集してください):

0 投票する
0 に答える
100 参照

java - k_rem_pio2 ファイル関数で、ih==2 の場合にキャリー!=0 を保持しない数値はありますか?

私は数学計算を使用してアプリケーションに取り組んでいます。私のコードでは、使用しているライブラリのコードのすべてのパスをカバーする方法を知る必要があります。まだカバーされていないものはk_rem_pio2 ファイルにあります。カーネル関数にはih==2数値の分岐があり、それらは

私の質問は、 if 条件が満たされない数についてです...唯一のケースはiq[i] = 0for all の数であると思いますi < jz(私は prec = 2 で作業しています)が、どの数が持つことができますiq[i] = 0か?

0 投票する
4 に答える
1484 参照

objective-c - NSData を ieee-754 または 2 の補数でプリミティブ変数に変換しますか?

私はObj-Ccocoaの新しいプログラマーです。バイナリ ファイル (通常、天文学者が使用するFlexible Image Transport SystemまたはFITSバイナリ ファイル)を読み取るために使用されるフレームワークを作成しようとしています。抽出したいバイナリ データにはさまざまな形式があり、FITSファイルのヘッダーを読み取ってそのプロパティを取得します。

これまでのところ、FITSファイルのコンテンツを格納するクラスを作成し、ヘッダーをNSStringオブジェクトに分離し、バイナリ データをオブジェクトに分離することができましたNSData。また、バイナリ データを解釈するのに非常に価値のあるキー値をヘッダーから抽出できるメソッドを作成することもできました。

私は今、NSDataオブジェクトをプリミティブ配列 (、、double...の配列)intに変換しようとしています。shortしかし、ここで行き詰まり、助けていただければ幸いです。

FITSファイルに関するドキュメントによると、BITPIXキーの値に応じてバイナリ データを解釈する 5 つの可能性があります。

NSDataをプリミティブ配列に変換するために、以下に示す平和なコードを既に作成しています。

ただし、ループで出力する値は、期待される値とは大きく異なります (公式の FITS ソフトウェアを使用した場合と比較して)。したがって、 Obj-Cは IEEE-754規則をdouble使用しておらず、 Obj-C2 の補数ではないと思います。私はこの 2 つの規則 ( IEEEtwos-complement ) に精通していないため、 Obj-Cでこの変換を行う方法を知りたいと考えています。 int

ヘルプや情報をお寄せいただきありがとうございます。

0 投票する
2 に答える
11780 参照

javascript - Javascriptで浮動小数点数をバイナリ表現(IEEE 754)に変換する方法は?

Javascriptで浮動小数点数をバイナリ表現に変換する最も簡単な方法は何ですか? (例: 1.0 -> 0x3F800000)。

私は手動で実行しようとしましたが、これはある程度 (通常の数値で) 機能しますが、非常に大きいまたは非常に小さい数値 (範囲チェックなし) および特殊なケース (NaN、無限大など) では失敗します。

車輪の再発明ですか?

編集:私は自分のバージョンを改善しました。今では特別なケースを処理します。

これが 100% 正しく機能するかどうかはまだわかりませんが、十分に機能しているようです。(私はまだ既存の実装を探しています)。

0 投票する
7 に答える
1603 参照

c - Do-s and Don't-s for floating point arithmetic?

What are some good do-s and don't-s for floating point arithmetic (IEEE754 in case there's confusion) to ensure good numerical stability and high accuracy in your results?

I know a few like don't subtract quantities of similar magnitude, but I'm curious what other good rules are out there.

0 投票する
9 に答える
1089 参照

floating-point - このループが終わらないのはなぜですか?

重複の可能性:
C# で double 値を比較する際の問題

どこかで読んだのですが、よくわからなかったのでこちらで再度質問させていただきます。このループは、どの言語でコーディングしても終わらないようです (私は C#、C++、Java でテストしています...):