問題タブ [numerical]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
php - mysql の REAL() データ型の目的/ポイントは何ですか?
mysql の REAL() データ型の目的/ポイントは何ですか? あなたは私が理解しているfloat、double、decimalを持っていますが、「本当の」データ型はどこに入るのですか? 何か案は?
前もって感謝します ;-)
real は float または double と同じですか?
numerical - NIST 非線形フィッティング ベンチマーク Misra1a
Levenberg-Marquardtソルバーを使用してこれを解決するためにいくつかのコードをいじっていますが、ここにあるものに困惑しています http://www.itl.nist.gov/div898/strd/nls/data/LINKS/DATA/Misra1a .dat
認定された値を差し込んで予測値を見ると、実際の Y 値とはかなり異なっているように見えます...確かにここで何か間違ったことをしています - 何ですか?
おそらく基数が 10 で、exp の代わりに power(10,...) を試しましたが、それは問題ではないようです。
matlab - MATLAB でベッセル関数を含む方程式を数値的に解くにはどうすればよいですか?
私は、一方に第 1 型のベッセル関数を含み、他方に第 2 型の修正ベッセル関数を含む方程式に直面しました。その正確な解 (u の値) を知りたいです。式は次のとおりです。
ここで、s は 2 などの任意の整数です。
w は u の関数として次のように記述できます。
したがって、この方程式には変数が 1 つしかありません: u
MATLAB は初めてです。これにどのようにアプローチすればよいかわかりません。誰でも私を助けてもらえますか?
javascript - JavaScriptには2倍の浮動小数点数の精度がありますか?
奇妙な質問だとは思いますが、JavaScriptには、シングルフロートではなくダブルフロートを処理する機能がありますか?(64ビットフロート対32ビット。)
matlab - Matlab の数値問題: 同じ入力、同じコード -> 異なる出力?
Matlab ソフトウェアの異なる実行結果を同じ入力で比較すると、問題が発生します。問題を絞り込むために、次のことを行いました。
- Matlab の save() メソッドを使用して、関連するすべての変数を保存します
- 何かを計算するメソッドを呼び出す
- save() を使用して、関連するすべての出力変数を再度保存します
呼び出されたメソッドを変更せずに、別の実行を行いました
- 上記で保存した変数をロードし、isequal() を使用して現在の入力変数と比較します
- 現在の入力変数を使用してメソッドを再度呼び出す
- 上記で保存した out 変数を読み込んで比較します。
最後の「行」の比較でわずかな違いが検出されるとは信じられません。計算には単精度と倍精度の数値が含まれ、誤差は 1e-10 の大きさです (出力は倍精度の数値です)。
私が想像できる唯一の説明は、変数を保存するときにMatlabがいくらかの精度を失うことです(私は非常にありそうにないと思います、私はデフォルトのバイナリMatlab形式を使用します)、またはa = b + c + dのような計算が含まれている可能性がありますa=(b+c)+d または a=b+(c+d) として計算され、数値の違いにつながる可能性があります。
上記の観察の理由が何であるか知っていますか?
どうもありがとう!
c++ - 単純な CUDA コードの数値エラー
次のcudeでcudaの実験を始めました
これを mac book pro で問題なくコンパイルします。ただし、これを実行しようとすると、
私のサンプルと Cuda By Example のサンプルを比較しましたが、タイプ以外に大きな違いは見られません。この問題に関する任意のポインタをいただければ幸いです。
c++ - 最速の128ビット整数ライブラリ
私はCPUを多用する数値計算アプリに取り組んでいます。多くの詳細に立ち入ることなく、それは大きな整数xに対して特定の関数f(x)を計算することを含む計算数学研究プロジェクトです。
現在、すべてがネイティブ64ビットintを使用してx64モードのC++で実装されています。それは私をx<2^ 64〜1.8 * 10^19に制限します。さらに進んで、それを行うには、128ビット演算を実行するライブラリが必要です。そして、それは非常に高速でなければなりません。特に、整数除算は高速である必要があります。それ以外の場合は、感謝祭まで結果を待つためにここに座っています。そして、私はむしろ車輪の再発明をしたくありません。
ウィキペディアで最大20個の大きな整数ライブラリのリストを見つけましたが、それらのほとんどは任意精度の数値を対象としているようです。これは私のタスクにはやり過ぎであり、それに関連する追加コストは必要ありません。
どのライブラリが128ビット整数で最も速く動作できるか知っている人はいますか?
numerical - 「e」文字は、グラフィックス データ内の無効な数値を示すために使用されていますか?
やなどの数字を含むデータ ファイルをエクスポートするグラフィカル プログラムが-1.33227e-015
あり-4.02456e-016
ます。
私は長い間、「e-」表記に困惑してきました。無効な番号を示すために使用されますか? 上記の数値からどのような有効な値を抽出できますか? 彼らは何を言おうとしているのですか?
c++ - 同一性のためにdoubleをintegerと比較すると、何が何に変換されますか?
わかりました。一般的に、2つの浮動小数点数が等しいかどうかを比較することは想定されていません。しかし、William Kahanの「浮動小数点計算における丸めのマインドレス評価はどれほど無駄ですか?」彼は次のコードを示しています(擬似コード、私は信じています):
今、私はこれをCまたはC ++で実装することに興味があり、2つの関連する質問があります。
a)Tをdoubleとすると、比較では(T == 1)または(T == 0)は0と1がdoubleに変換され、マルチタイプ式に含まれる値の精度が維持されます。 ?
b)これは、2つの浮動小数点数を比較して等しいと見なされますか?
c# - 数値ハイトマップで閉じたパスをチェック
私はゲームに取り組んでおり、特定の数値高さマップで閉じたパスを確認する必要があります。サーバーとクライアントは、この高さマップを使用して、移動するための正しい座標を設定します...今、ユーザーが歩いているとき「特別な」タイル、点灯...私の問題は次のとおりです。ユーザーがこれらのタイルを歩いていると、空のタイルが含まれる閉じたパスが作成され、サーバーはこのパスのタイルを自動的に埋める必要があります...
次のようにする必要があります: http://www.youtube.com/watch?v=kAVUNE2NTUQ - 1:32
あちこちで数学を使用する必要があると確信していますが、方法がわかりません...「for」サイクルを実行できますが、長すぎます。問題は、サーバーがサイクルを実行する必要があることですユーザーが歩くたびに...答えてくれてありがとう、誰かが私を助けてくれることを願っています。
PS: 私は C# を使用しています
編集: ユーザーがタイルの上を歩くと、サーバーは自動的に heightmap[X, Y] をユーザーの色を表す整数に置き換えます