3

私は現在、ディスクからストリーミングされているオーディオのピッチ検出のためのバルク処理アルゴリズムを書いています。シリアルストリーミングされたデータに対してほぼリアルタイムで実行されるように、アルゴリズムを強化しました。

理想的には、システムがリアルタイムよりもはるかに高速に動作し、リアルタイムデータを渡して、それほど遅れることなくピッチトラックデータを生成できるようにしたいと思います。

今、私が驚いたのは、データのシリアル処理が、非常に高速化できる場所であるということです。私はクアッドコアi7(8つのハードウェアスレッドを使用)で実行しているので、処理を複数のブロックに分散させることで速度を大幅に向上させることができるはずです。

それが進むにつれて、私は現在次のことをしています:

  1. ディスクからデータをストリーミング
  2. 分析したいウィンドウサイズになるまでデータをバッファリングします。
  3. データのウィンドウを処理します。
  4. データをnサンプル戻します(nはスライドさせたい量です(これは80msウィンドウで1ms戻ることができます!)
  5. すすぎ、繰り返します。

これで、ウィンドウができたら、そのデータを特定のスレッド作業バッファーに簡単にコピーできることに気付きました(また、結果が書き込まれるメモリの場所を提供します)。このようにして、スレッドプールが処理する最大7つのスレッド(データをポンプするためにスレッド8を開いたままにする)のスレッドに相当するデータを効果的にバッファリングできます。

オーディオの8番目のウィンドウを送信しようとすると、データを処理するためのスレッドが使用可能になるまでプールをブロックします。データの処理を常に7つのスレッドで実行し続けるという考えです。以前の経験から、これを行うことで約5倍の速度が得られると思います。

過去に私はC++で自分のタスクベースのシステムを作成しましたが、このシステムは完全に機能しますが、このアプリはC#で開発されています。C ++で低いオーバーヘッドで優れた並列処理を実現するために、優れたロックレスキューイングメカニズムの構築にかなりの時間を費やしました。

私は、C#の下で、誰かが私のためにこれを行うことで苦痛を取り除くことを望んでいました。しかし、うまくいくように見えるものは何も見つかりません。System.Threading.ThreadPoolを確認しましたが、現在実行中のスレッドの数を確認する方法がないようです。オーバーヘッドが法外に思えることは言うまでもありません。次に、既存の事前に割り当てられた構造(処理で重要)を再利用できず、作業項目を送信するたびに再作成する必要があるという大きな問題が発生します。これには、処理できるよりも速く作業を生成するという大きな欠点があります。そのため、本当に必要のない構造やワークスペースのセットアップに膨大な時間を浪費するだけでなく、メモリ使用量が制御不能になります。

その後、System.Threading.Tasksについて知りましたが、それも私が求めている機能を提供していないようです。

相互運用機能を介してC++タスクマネージャーを使用することもできたと思いますが、この時代には、誰かがすでに同様の設定を行っていると思いました。だから私は何かが欠けていますか?または、誰かがそのようなタスク管理エンジンへのリンクを私に提供できますか?

4

3 に答える 3

4

タスク並列ライブラリは、特に解決しようとしているタスクのために設計および実装されています。また、このプロセスをパイプライン化することもできます。

したがって、次のことを確認する必要があります。

于 2012-04-04T20:13:22.420 に答える
3

さて、これらの場合はいつものように、ZeroMQを使用することをお勧めします。それはあなたが非常に簡単に消費者の数を制御することを可能にするでしょう。

スクラッチパッドの領域に関しては、まず、0.5GBは今日の時代の多くのメモリではありません。デスクトップはもちろん、私の電話にはそれよりも多くのRAMがあると思います...メモリ消費を本当に簡単にしたい場合は、スレッドごとに1つのスクラッチパッド領域を作成し、それらすべてをプールに入れて、プロデューサーに取得してもらいます。タスクをキューに入れる前にスクラッチパッド領域に、タスクのその領域をアタッチします。消費者が終わったら、スクラッチパッド領域をプールに戻します。

于 2012-04-04T20:33:00.880 に答える
1

ここでは、タスク並列データフローライブラリを使用します。並列処理の程度とブロッキングセマンティクスを明示的に制御しながらチェーンできるプロセスブロックを作成できるように設計されています。

于 2012-11-29T12:42:20.500 に答える