問題タブ [numerical]

変数が 1 つの方程式で 'solve' 関数を使用した後、Matlab は浮動小数点の使用を好まないようです。だから、私の答えは

それを理解できる10進数に変換する最良の方法が何であるかはわかりません。私がこれまでに持っている最良の方法は

(これにより、追跡している人には-0.5002が得られます)、しかし、私はその解決策に本当に満足していません.

誰かがより良いものを提案できますか?

浮動小数点数の表現方法については少し知っていますが、十分ではありません。

一般的な質問は次のとおりです。

特定の精度 (私の目的では、基数 10 の正確な小数点以下の桁数) で、16 ビット、32 ビット、および 64 ビットの IEEE-754 システムで表現できる数値の範囲は?

具体的には、+/-0.5 (一の位) または +/- 0.0005 (千の位) の精度の 16 ビットおよび 32 ビットの数値の範囲にのみ関心があります。

一連の数値と比較した数値が、平均値から 1 stddev の範囲外にあるかどうかを知る必要があります。

与えられた横軸xにある線上の点の縦座標yを計算しています。線は、その2つの端点座標（x0、y0）（x1、y1）によって定義されます。終点の座標は浮動小数点数であり、GPUで使用するには、計算を浮動小数点精度で実行する必要があります。

数学、したがって素朴な実装は簡単です。

t =（x-x0）/（x1-x0）とすると、y =（1-t）* y0 + t * y1 = y0 + t *（y1-y0）となります。

問題は、x1-x0が小さい場合です。その結果、キャンセルエラーが発生します。x-x0のいずれかと組み合わせると、除算でtに重大なエラーが発生すると予想されます。

問題は、より正確にyを決定する別の方法があるかどうかです。

つまり、最初に（x --x0）*（y1 --y0）を計算し、その後（x1 --x0）で除算する必要がありますか？

y1-y0の差は常に大きくなります。

複雑なエルミート行列を対角化するために LAPACK を使用しています。ZHEEV と ZHEEVD のどちらかを選択できます。サイズが 40 で、固有値の範囲が 1E-2 から 1E1 の行列に対して、これらのルーチンのどれがより正確ですか?

実存的なタイプに完全に戸惑っていますが、Numeric.FADライブラリが必要です。

これはコードです：

error'は、diff_opによって実行されるReaderモナドで実行されます。これにより、匿名関数が生成され、現在のNetworkStateとFAD.gradからの差分入力が取得され、Readerに詰め込まれます。

Haskellは私を次のように混乱させます：

私は、32ビット整数の長さを超える数値を処理する関数をHaskellで書いています。これを行うタイプが見つからず、間違った用語を検索しているようです。

精度を損なうことなく、約2^40の長さの数値を保持できる必要があります

例：

私は4.1.2を使用しています。私のコードのどこを見るのが一番いいのか、誰か考えはありますか? 一般的な原因の経験はありますか? いくつかの醜いポインタ キャスト (つまり、d = (double) (* (float *) p)、ここで、p は int へのポインタ) がいくつかありますが、それらを削除する作業を行っていますが、まだ運がありません。
価値があるのは、 -O0 が正しい答えを出しているということです。助けてくれてありがとう。

使いやすいJavaベースの二次計画法（QP）ソルバーを探しています。

グーグルで回ってojAlgo（ http://ojalgo.org ）に出くわしました。

しかし、他にもっと良い選択肢があるかどうか疑問に思いました。

ベジェの長さ、ベジェ上のポイント、その他のメタデータなどのグラフィック計算を行うのに役立つ、描画ライブラリではなく計算ライブラリを見つけたいと思います。

このような図書館はありますか？