問題タブ [numerical]

ユーザーの操作がなければ、プログラムはADCからの記録にどのタイプの波形が存在するかをどのように識別しますか？

この質問のために：一定周波数の三角波、方形波、正弦波、半正弦波、またはのこぎり波。レベルと周波数は任意であり、ノイズ、少量の歪み、およびその他の欠陥があります。

私もいくつかの（素朴な）アイデアを提案します、そしてあなたはそれらを賛成または反対に投票することができます。

任意精度演算は数値解析ソフトウェアに影響を与えましたか？

ほとんどの数値解析ソフトウェアは、同じフロートとダブルを使い続けていると思います。

私の意見では、特に有理数表現の使用と組み合わせた場合に、任意精度の算術を使用することでメリットが得られる計算がいくつかあるため、私が正しい場合は、その理由を知りたいと思います。GNUMulti-PrecisionLibraryで実行されます。

私が間違っていれば、例がいいでしょう。

私は Perl で、時折非常に小さい可能性がある確率で動作するプログラムを持っています。丸め誤差のため、確率の 1 つがゼロになることがあります。以下のチェックを行いたいと思います。

これは問題なく動作しますが、実際には Perl が 1e-200 よりも小さい数を生成していることがわかります (8.14e-314 が飛び交うのを見たところです)。私のアプリケーションでは、calculate_prob() を変更して、TINY_FLOAT の最大値と実際の確率を返すようにできますが、これにより、Perl で浮動小数点数がどのように処理されるかについて興味を持ちました。

Perlで最小の正の浮動小数点値は何ですか? プラットフォーム依存ですか？もしそうなら、私のマシンでそれを理解するために使用できる簡単なプログラムはありますか?

文字列の「数値」を検証したかった（アクティブレコードモデルの属性ではない）。有効な基数10の正の整数文字列である必要があります。私はこれをやっています：

これらのうち、より妥当な代替案はどれですか？または、他にもっと良い実装はありますか？

テスト駆動開発を使用して信号処理ライブラリを実装しようとしています。しかし、私には少し疑問があります。私が正弦波メソッドを実装しようとしていると仮定します（私はそうではありません）：

1. テストを書く（擬似コード）

   /li>

2. 最初の実装を書く

   /li>

3. 2番目のテスト

   /li>

この時点で、私は次のことを行う必要があります。

1. 円周率やその他の値で機能するスマートコードを実装する、または
2. 0とpiでのみ機能する最も愚かなコードを実装しますか？

2番目のオプションを選択した場合、いつ最初のオプションにジャンプできますか？私は最終的にそれをしなければならないでしょう...

いくつかの数値コード (Python モジュールの生成) に Fortran (95) を使い始めました。簡単な例を次に示します。

これは 32 ビットで非常にうまく機能することがわかりましたが、x86_64 としてコンパイルすると、約 5 倍遅くなります (macbook pro core2duo、snow leopard、r.research.att.com の gfortran 4.2.3)。これは、ネイティブ型ではなく 32 ビット整数型を使用していることが原因である可能性があることに最終的に気付きました。実際、整数 * 8 に置き換えると、64 ビットのパフォーマンスは 32 ビットのパフォーマンスよりも 25% だけ悪くなります。

64 ビット マシンで 32 ビット整数の使用が非常に遅いのはなぜですか? 私が気付いていない可能性のあるインデックス作成で暗黙のキャストが行われていますか?

このタイプのコードでは、64 ビットが 32 ビットよりも遅くなるというのは常にあるのでしょうか (私はこれに驚きました)。それとも、64 ビットでコンパイルされたバージョンを同じ速度またはより速く実行できる可能性はありますか?

（主な質問）（整数）変数を「ネイティブ」型として宣言する方法はありますか...つまり、32ビットでコンパイルすると32ビット、最新のfortranで64ビットでコンパイルすると64ビットです。これがなければ、コンパイル方法に応じてそれほど遅くならない移植可能なfortranコードを書くことは不可能に思えます.これは、プロジェクトでfortranを使用するのをやめなければならないことを意味すると思います. kind と selected_kind を見てきましたが、これを行うものは見つかりませんでした。

[編集: 大きなパフォーマンス ヒットは、配列をコピーして 64 ビット int から 32 ビット int にキャストする f2py ラッパーによるもので、fortran に固有のものは何もありません。]

Java 数値アルゴリズムのパフォーマンスについて興味があります。たとえば、最新の JIT マシンを使用して、手動で調整された SSE C++/アセンブラーまたは Fortran の対応するものと比較して、マトリックス マトリックスの倍精度乗算などです。

私は Web を見てきましたが、ほとんどの結果はほぼ 10 年前のものであり、それ以来 Java がかなり進歩したことを理解しています。

数値集約型のアプリケーションに Java を使用した経験がある場合は、その経験を共有していただけますか。また、ループが比較的短く、メモリアクセスがあまり均一ではないが、L1 キャッシュの制限内にあるカーネルで、Java はどの程度うまく機能するでしょうか? そのようなカーネルが連続して複数回実行される場合、JVM は実行時にそれを最適化できますか?

ありがとう

基本的に私はそのようなことをしたいと思います：

しかし、それは C++ では合法ではないようです。ベクトルを使用できることはわかっていますが、配列のサイズが一定であることはわかっているため、パフォーマンスの低下が発生する可能性が高いようです。newまた、スタックへの割り当てはより簡単で、パフォーマンスも向上する可能性があるため、できればa を避けたいと思います。

ここでの解決策は何ですか？

NaN は計算のどの段階でも発生し、それ自体が伝播する可能性があるため、その発生源を見つけるのは困難な場合がよくあります。では、計算が NaN または inf を返したときに C++ プログラムを停止させることは可能ですか? 私の意見では、素敵なエラーメッセージでクラッシュするのが最善です:

このようなことは可能ですか？より良い解決策はありますか？NaN の問題をどのようにデバッグしますか?

編集: 精度: Linux で GCC を使用しています。

Scalaでは、>、/、*などの演算子を使用するジェネリッククラスを記述できるようにしたいと思いますが、これが機能するようにTを制約する方法がわかりません。

Ordered [T]でTを制約することを検討しましたが、RichXXX（RichIntなど）のみが拡張し、Intなどではないため、機能しないようです。Numeric[T]も見ましたが、これはScala 2.8でのみ使用できますか？

具体的な例を次に示します。

>などをサポートしていないTが多数あるため、このクラスはコンパイルされません。

考え？

今のところ、これを回避するためにMixInトレイトを使用しました。

元のクラスを変更すると、インスタンス化時にミックスインできます。

getMaxの書き直しに触発されたPSMitchは、次のとおりです。