問題タブ [uint]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
4749 参照

python - uint8 データを表現するより良い方法はありますか

uint8 データの表現について質問があります。

uint8 データが保存されている MATLAB MAT ファイルがあります。

MAT ファイルは Python を使用して読み込まれscipy.io.loadmat()、ディクショナリが形成されます。MAT ファイルのデータ フィールドに対応する配列がディクショナリから抽出されます。配列は次のようになります。

その後、この配列は、後でファイルを読み取るために txt 形式で保存されます。ただし、txt ファイルのデータは倍精度です。たとえば、uint8データ162は として保存され1.620000000000000000e+02ます。あまりにも多くのメモリを占有するため、これは私が望むものではありません。

私が必要としているのは、 の各 1 バイトが1 つのデータsource_file.read()に対応することです。uint8

uint8 データを表現するより良い方法はありますか? uint8 を文字列に変換することは可能ですが、それでも 2 ~ 3 バイトかかります。

0 投票する
2 に答える
3216 参照

cuda - 16 ビットの cuda 整数

CUDA に 16 ビット長の変数はありますか? 16 ビットの符号なし整数が必要です。私はもう試した:

しかし、誰も nvcc によって認識されません。

0 投票する
2 に答える
1170 参照

cuda - 2 つの uint を使用して double を表し、次に乗算しますか?

私はいくつかの研究のために CUDA (GPGPU プログラミング) を使用していますが、新しいハードウェア アーキテクチャが原因で、固有の倍精度のパフォーマンスが単精度のパフォーマンスと比較して (24 倍!) 低下しています。2 つの uint を使用して 1 つの double を表すことにしました。このようにして、パフォーマンスに大きな影響を与えることなく DP 計算を実行できました。

たとえば、このメソッドを使用して double 10.12 を表現したいとします。

uint 実数 = 10、小数 = 12;

したがって; 「real.decimal」は double を視覚的に表します。

このタイプを「シングル」と呼びましょう。

与えられた: シングル a = 10.12, b = 20.24;

2 つの単数を乗算、除算、加算、および減算するための効率的なアルゴリズムは何でしょうか?

シングル c = a * b;

これが機能するためには、任意の DP 計算を実行したり、32 ビットを超えるデータ型を使用したりすることはできないことに注意してください。

0 投票する
3 に答える
122 参照

c++ - 1 バイト整数は I/O 形式を変換しません

以下のコードは、数値を 16 進数形式で入力し、10 進数形式で出力するコードを書きました。

しかし、c(12 の 16 進数) を入力すると、出力は再び c(12 ではありません) になりました。誰か説明できますか?

0 投票する
2 に答える
2285 参照

c - ASCII から uint8 への変換

数列をマイクロコントローラーに送信する必要があります。これが私の機能です:

関数が ASCII として送信している間、micro は ASCII を受け入れません。その ASCII 文字列を として送信する必要がありますuint8。どのように変換を行うことができますか?

この場合、printf画面には印刷されませんが、シリアル ポートに直接送信されます。シリアルポートに送信する唯一のコマンドなので、事前に変換を行う必要があります。

0 投票する
1 に答える
510 参照

xml - xml 文字列を uint プロパティにデシリアライズする

MyValueisを使用して XML ファイルを0x0001逆シリアル化し、それを uint プロパティに逆シリアル化することは可能ですか? これを実装する最良の方法は何ですか?

0 投票する
1 に答える
1029 参照

c# - バイト配列をuint数値に変換します

バイトの配列があるとしましょう

この配列を変換してuintの通常の数値変数を取得したいので、結果は次のようになります。

これまでのところ、私が見たすべての例はバイトでした。バイトはバイトは必要ありませんが、数値です。

ありがとう...

0 投票する
3 に答える
469 参照

vb.net - VB.NETでUshort 16ビット整数のビットをシフトする方法は?

16 ビットの符号なし整数があり、その値は次のようになります。

これから、これを右にシフトして、次のようにする必要があります。

私はこれをしました:

と取得しbyte_val1 = 100000000000000ます。

その後、私はやった

しかし、私は望ましい結果を得られませんでした...代わりに私は得100000010000000ました。

では、その結果を得るにはどうすればよいでしょうか。

0 投票する
3 に答える
97212 参照

c - C で void* 変数を出力する

こんにちは、printf でデバッグを行いたいと思います。しかし、「out」変数を出力する方法がわかりません。

返却前にこの値を出力したいのですが、型が void* です。

どのようにできるのか?ありがとう。

0 投票する
5 に答える
10671 参照

c# - -1 を uint に変換 C#

-1 を uint に変換しても機能しない "((uint)(-1))" ソリューション?

エラー: 定数値 '-1' は 'uint' に変換できません (オーバーライドするには 'unchecked' 構文を使用してください)