問題タブ [uint]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
python - uint8 データを表現するより良い方法はありますか
uint8 データの表現について質問があります。
uint8 データが保存されている MATLAB MAT ファイルがあります。
MAT ファイルは Python を使用して読み込まれscipy.io.loadmat()
、ディクショナリが形成されます。MAT ファイルのデータ フィールドに対応する配列がディクショナリから抽出されます。配列は次のようになります。
その後、この配列は、後でファイルを読み取るために txt 形式で保存されます。ただし、txt ファイルのデータは倍精度です。たとえば、uint8
データ162
は として保存され1.620000000000000000e+02
ます。あまりにも多くのメモリを占有するため、これは私が望むものではありません。
私が必要としているのは、 の各 1 バイトが1 つのデータsource_file.read()
に対応することです。uint8
uint8 データを表現するより良い方法はありますか? uint8 を文字列に変換することは可能ですが、それでも 2 ~ 3 バイトかかります。
cuda - 16 ビットの cuda 整数
CUDA に 16 ビット長の変数はありますか? 16 ビットの符号なし整数が必要です。私はもう試した:
しかし、誰も nvcc によって認識されません。
cuda - 2 つの uint を使用して double を表し、次に乗算しますか?
私はいくつかの研究のために CUDA (GPGPU プログラミング) を使用していますが、新しいハードウェア アーキテクチャが原因で、固有の倍精度のパフォーマンスが単精度のパフォーマンスと比較して (24 倍!) 低下しています。2 つの uint を使用して 1 つの double を表すことにしました。このようにして、パフォーマンスに大きな影響を与えることなく DP 計算を実行できました。
たとえば、このメソッドを使用して double 10.12 を表現したいとします。
uint 実数 = 10、小数 = 12;
したがって; 「real.decimal」は double を視覚的に表します。
このタイプを「シングル」と呼びましょう。
与えられた: シングル a = 10.12, b = 20.24;
2 つの単数を乗算、除算、加算、および減算するための効率的なアルゴリズムは何でしょうか?
シングル c = a * b;
これが機能するためには、任意の DP 計算を実行したり、32 ビットを超えるデータ型を使用したりすることはできないことに注意してください。
c++ - 1 バイト整数は I/O 形式を変換しません
以下のコードは、数値を 16 進数形式で入力し、10 進数形式で出力するコードを書きました。
しかし、c(12 の 16 進数) を入力すると、出力は再び c(12 ではありません) になりました。誰か説明できますか?
c - ASCII から uint8 への変換
数列をマイクロコントローラーに送信する必要があります。これが私の機能です:
関数が ASCII として送信している間、micro は ASCII を受け入れません。その ASCII 文字列を として送信する必要がありますuint8
。どのように変換を行うことができますか?
この場合、printf
画面には印刷されませんが、シリアル ポートに直接送信されます。シリアルポートに送信する唯一のコマンドなので、事前に変換を行う必要があります。
xml - xml 文字列を uint プロパティにデシリアライズする
MyValue
isを使用して XML ファイルを0x0001
逆シリアル化し、それを uint プロパティに逆シリアル化することは可能ですか? これを実装する最良の方法は何ですか?
c# - バイト配列をuint数値に変換します
バイトの配列があるとしましょう
この配列を変換してuintの通常の数値変数を取得したいので、結果は次のようになります。
これまでのところ、私が見たすべての例はバイトでした。バイトはバイトは必要ありませんが、数値です。
ありがとう...
vb.net - VB.NETでUshort 16ビット整数のビットをシフトする方法は?
16 ビットの符号なし整数があり、その値は次のようになります。
これから、これを右にシフトして、次のようにする必要があります。
私はこれをしました:
と取得しbyte_val1 = 100000000000000
ます。
その後、私はやった
しかし、私は望ましい結果を得られませんでした...代わりに私は得100000010000000
ました。
では、その結果を得るにはどうすればよいでしょうか。
c - C で void* 変数を出力する
こんにちは、printf でデバッグを行いたいと思います。しかし、「out」変数を出力する方法がわかりません。
返却前にこの値を出力したいのですが、型が void* です。
どのようにできるのか?ありがとう。
c# - -1 を uint に変換 C#
-1 を uint に変換しても機能しない "((uint)(-1))" ソリューション?
エラー: 定数値 '-1' は 'uint' に変換できません (オーバーライドするには 'unchecked' 構文を使用してください)