問題タブ [uint64]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
1 に答える
284 参照

vb.net - UInt64は、大きな数学を行うときに気が狂いますか?

いくつかの大きな数学から奇妙な結果が出て、vb.netとpythonで異なる答えが得られる理由がわかりません。

クイックスニペットと結果は次のとおりです。

注:sqlnをULongおよびDoubleとして宣言することも試みます(同じ回答)。MSBとLSBは両方のデバッガーで一致します-!! ??

何か案は?=+ありがとう

傑出したジョン-非常に雄弁で、うまくいきます!ちょっとしたフォローアップで、最後のピースの修正を提案できますか?私のsqlnをまっすぐにしたとしても、同じようなことが起こっていると思います:)

0 投票する
1 に答える
300 参照

c# - これは、より少ないスペース、UInt64またはC#の文字列を消費します

C#のコンテキストで最良のアイデアは何でしょうか、

  1. C#では辞書を使用しています。使用するメモリスペースを減らしたい。何が良くなるでしょうか?

    キータイプがである辞書、Uint64またはキータイプがstring?である辞書 どちらの場合も、値は各ディクショナリで同じカスタムクラスです。

    私は辞書を次のように宣言しました、

    クラスノードは次のように定義されます。

    文字列のキーは、実際には次のように計算された文字列からのハッシュ値です。文字列の長さは1〜20文字です。

    ここで、このハッシュ値を辞書のキーとして保存します。何が最良のアイデアになるでしょう。Uint64として使用するか、文字列に変換して文字列を辞書キーとして使用します。私の主な目標は、辞書が最小限のスペースを使用し、キーの検索時間が短縮されることです。

  2. 3571079文字のファイルがあります。ファイル全体を文字列に読み込むことはできますか、それとも高度なデータ構造が必要ですか?

0 投票する
3 に答える
1244 参照

c++ - 「uint_64t」で「int」を追加

次のタイプの 3 つの変数があります。

そして、私はこの課題をやりたいです

ただし、問題は、いつとold_addr=915256delta=-6472064なるかです。new_addr18446744069414584325

修正するには、いくつか確認する必要があります。

より良い効率的な方法はありますか?

0 投票する
3 に答える
8401 参照

c# - UInt64 および「チェック モードでコンパイル時に操作がオーバーフローする」 - CS0220

これはばかげた質問のように感じますが、答えが見えないようです。私はUInt64を持っていますが、これは最大値が

ただし、適度なサイズの数値を割り当てようとすると、「チェックモードでコンパイル時に操作がオーバーフローします」というオーバーフローエラーが発生します。「チェックされていない」ブロックでラップすると、コンパイルされ、この変数がゼロであるかのように実行されます。

なぜこれが起こっているのですか?

0 投票する
2 に答える
383 参照

java - 大きな正の数のBigIntegerをロードする

どこでもUInt64を使用する.NETからコードを移植しようとしていますが、ほとんどの場合BigIntegerの使用に成功しましたが、残念ながら、16進値のテーブルから値をBigIntegerにロードするという非常に単純なものに行き詰まりました。

ある時点で、正の0x990951BAでBigIntegerをロードしたいのですが、これを行うために見た唯一の方法は、BigInteger b = BigInteger.valueOf(0x990951BA)を使用することでした。もちろん、Javaは引数を長いものとして扱い、それを作成するため、これは機能しません。ネガティブ。

どうすればこれを達成できますか?

ありがとうございました。

0 投票する
5 に答える
16901 参照

c++ - x86マシンで32ビットを超えるuint64_t整数をシフトすることは未定義動作ですか?

難しい方法を学び、x86マシンで32ビット以上に左シフトしてみましlong longた。私は漠然と、32ビットのマシンシフト演算子よりもどこかで読んだことを覚えています。シフト演算子は最初の32ビットでのみ機能し、ソースを再収集することはできません。x86マシンで32ビットを超えるuint64_t整数をシフトすることが未定義動作であるかどうかを知りたいのですが。uint64_t0

0 投票する
3 に答える
2460 参照

compiler-errors - ffmpeg H264 aviファイルはフレームのタイムスタンプを取得しますか?? UINT64_C エラー

h264コーデックのaviファイルです。それを開いて、すべてのフレームのタイムスタンプを抽出する必要があります。

opencv で実行しようとしましたが、間違った結果が返されます。

タイムスタンプを取得するために、fffmpeg/doc/examples フォルダーにあるサンプル filtering_video.c のコードを変更しました。

次のコードがありますが、コンパイルすると、UNIT64_C に関する奇妙な結果が得られます。周りを検索すると、ffmpegの問題であることがわかりました。

2 つの質問: 1. このコードは、フレームのタイムスタンプを返して出力できるように見えますか? 2. UINT64_C 問題の解決策はありますか??

ubuntu 11.04 と最新の ffmpeg を使用しています。

コード

コンパイラ エラー

0 投票する
1 に答える
3172 参照

c - Cでuint32をuint64に変換する方法は?

imuint32_t16進数をuint32_tBCD番号に変換します。そして、BCDへのuint64hexに対しても同じことを行います。

私はuint16からこれを持っています

編集:

より大きなプログラムで使用する外部コードとして使用します。

0 投票する
2 に答える
1280 参照

c++ - Visual Studio2010SP1での64ビット整数初期化エラー

私は奇妙なバグ/エラー/自己愚かさの懸念を持っています。私はCで小さなアプリケーションを開発しており、Visual Studio2010SP1を使用しています。問題のあるコード:

デバッグすると、次の結果が得られます。

質問は、なぜですか?uint64_tの最大値は2^64-1または18446744073709551615であり、int64_tの最大値は2^63-1または9223372036854775807です。

65535 * 65535 * 64 = 274869518400、これは両方の最大値よりも低くなっています。では、なぜこれらの結果が得られるのでしょうか。

私はここで完全に迷子になっています、いくつかの助けをいただければ幸いです。

0 投票する
2 に答える
29673 参照

go - strconv.Itoa64(1234) は golang で undefined を返します

これは私のコードです:

問題:

次のエラー メッセージが表示されるのはなぜですか?

command-line-arguments .\test.go:7: undefined: strconv.Itoa64 [終了コード 2 で 0.2 秒で終了]