multithreading - どの並列プログラミング API を使用していますか?

Question

最近のマルチコアおよびマルチプロセッシングハードウェアの非常に重要性を考慮して、人々が実際に並列コードをどのように書いているかを把握しようとしています。私には、支配的なパラダイムは pthreads (POSIX スレッド) のように見えます。これは Linux でネイティブで、Windows で利用できます。HPC の人々は OpenMP や MPI を使用する傾向がありますが、ここ StackOverflow にはあまりないようです。それとも、移植可能な標準ではなく、Java スレッド化、Windows スレッド化 API などに依存していますか? あなたの意見では、並列プログラミングを行うための推奨される方法は何ですか?

それとも、Erlang、CUDA、RapidMind、CodePlay、Oz、または親愛なる古い Occam などのよりエキゾチックなものを使用していますか?

明確化: Linux、さまざまな UNIX、さまざまなホストアーキテクチャなどのプラットフォームに移植可能で適用可能なソリューションを探しています。Windows は、サポートしてよかった稀なケースです。したがって、C# と .net はここでは狭すぎます。CLR はクールなテクノロジですが、Linux ホスト用にリリースして、JVM、Python、Erlang、またはその他の移植可能な言語と同じくらい普及するようにしてください。

C++ または JVM ベース: JVM はパフォーマンスを隠す傾向があるため、おそらく C++ です。

MPI: HPC 関係者でさえ、これを使いにくいツールと見なしていることには同意しますが、128000 プロセッサで実行する場合、map/reduce が適用されない問題に対する唯一のスケーラブルなソリューションです。ただし、メッセージパッシングは、ローカルメモリ/AMP、共有メモリ/SMP、分散ランタイム環境に適切に拡張できる唯一のプログラミングスタイルであるため、非常に洗練されています。

興味深い新しい候補はMCAPIです。しかし、それを実際に経験する時間があった人はまだいないと思います。

全体として、私が知らなかった多くの興味深い Microsoft プロジェクトがあり、Windows API または pthreads が実際に最も一般的な実装であるという状況のようです。

score 10 · Accepted Answer

MPI は、ほとんどの人が思っているほど難しくありません。最近では、マルチパラダイムアプローチが並列および分散アプリケーションに最適であると考えています。ノード間の通信と同期には MPI を使用し、より粒度の高い並列化には OpenMP または PThreads を使用します。各マシンの MPI と、各コアの OpenMP または PThreads を考えてみてください。これは、近い将来、コアごとに新しい MPI Proc を生成するよりも、少しはうまくスケーリングできるように思われます。

おそらく現在のデュアルまたはクアッドコアの場合、マシンのコアごとに proc を生成してもそれほど多くのオーバーヘッドはありませんが、キャッシュとオンダイメモリがあまりスケーリングされないマシンごとのコア数が増えるにつれて、共有メモリモデルを使用する方が適切です。

score 6 · Accepted Answer

OpenMPをお勧めします。MicrosoftはこれをVisualC++ 2005コンパイラに組み込んだため、十分にサポートされており、/ompディレクティブを使用してコンパイルする以外に何もする必要はありません。

使い方は簡単ですが、明らかにすべてを行うわけではありませんが、何もしません。私はこれを、一般的に面倒なことなく並列forループを実行するために使用します。より複雑なものについては、自分でロールする傾向があります（たとえば、私は何年も前のコードをカット、貼り付け、変更しています）。

見栄えがよく、電子書籍「マルチコアソフトウェア革命を生き残る方法」が掲載されている Cilk++を試すことができます。

これらの種類のシステムはどちらも、シリアルコードを並列化しようとします。つまり、forループを使用して、可能な限り簡単な方法ですべてのコアで同時に実行します。それらは汎用スレッドライブラリではない傾向があります。（例えば、研究論文（pdf）は、openMPに実装されたさまざまなタイプのスレッドプールのパフォーマンスを説明し、それに2つの新しい操作（yieldとsleep）を追加する必要があることを示唆しました。OpenMPのポイントが少し欠けていると思います）

OpenMPについておっしゃったように、C＃や.NETではなくネイティブC++について話していると思います。

また、HPCの人々（この種のドメインの専門家だと思います）がOpenMPまたはMPIを使用しているように見える場合は、SOの読者ではなく、これを使用する必要があります。

score 4 · Accepted Answer

Microsoft からの並行拡張機能の検討を開始しました。これはまだリリースされていませんが、確実に可能性を示しています。

score 3 · Accepted Answer

私はACEを使用して、開発者が任意のプラットフォームで POSIX (または Windows) スタイルのスレッドを使用できるようにしました。

score 2 · Accepted Answer

ここでの回答は、「実際に使用する」に対する統計的に代表的な回答ではないことに注意してください。すでに「Xはいい」という答えがたくさんあります。

私は多くのプロジェクトで個人的にWindowsスレッドを使用しました。私が広く使用している他のAPIはpthreadです。HPCの面では、MPIは、私が使用していないMPIを使用している人々に今でも真剣に受け止められてい<subjective>ます。これは、C++のすべてのエレガンスとJavascriptのパフォーマンスを兼ね備えています。まともな選択肢がないので、それは生き残ります。一方では緊密に結合されたNUMAマシンに、もう一方ではGoogleスタイルのmap-reduceに負けます。</subjective>

score 2 · Accepted Answer

より多くのデータ Parallel Haskellがあればいいのですが、それがなくても、GHC>6.6 にはControl.Parallel .Strategiesを介してアルゴリズムを簡単に並列化する素晴らしい機能があります。

score 2 · Accepted Answer

Parallel FX Library (PFX) - .NET Framework の将来のリビジョンに含めるために、Microsoft Research と Microsoft の CLR チームとの共同作業によって開発されているマネージコンカレンシーライブラリ。これは、Parallel LINQ (PLINQ) と Task Parallel Library (TPL) の 2 つの部分で構成されています。また、一連の調整データ構造 (CDS) (同時実行タスクの実行を同期および調整するために使用される一連のデータ構造) で構成されます。ライブラリは 2007 年 11 月 29 日に CTP としてリリースされ、2007 年 12 月と 2008 年 6 月に再び更新されました。

経験は少ないですが…

score 1 · Accepted Answer

1

オープンCLはどうですか？

于 2008-12-19T09:15:22.203 に答える

score 1 · Accepted Answer

私が書いた並列プログラムのほとんどはAdaで作成されたもので、言語でネイティブに並列処理を完全にサポートしています。これの優れた利点の 1 つは、並列コードが Ada コンパイラを備えた任意のシステムに移植できることです。特別なライブラリは必要ありません。

score 1 · Accepted Answer

.Net の場合、私はRetLangを使用して大成功を収めました。JVM の場合、スケールは優れています。

score 1 · Accepted Answer

環境に大きく依存します。

palin old C にとって、POSIX に勝るものはありません。

C++ には、BOOST.ORG から無料で提供されている非常に優れたスレッドライブラリがあります。

Java は、ネイティブの Java スレッドを使用するだけです。

アプリケーションをクライアントプロセスとサーバープロセスに分割し、非同期メッセージングを使用して通信するなど、スレッド化以外の並列処理を実現する他の方法を検討することもできます。これを適切に行うと、数十のサーバーで数千のユーザーにスケールアップできます。

また、Windows MFC、Gnome、または Qt ウィンドウ環境を使用している場合は、自動的にマルチスレッド環境になることも覚えておく価値があります。Apache ISS または J2EE を使用している場合、アプリケーションはすでにマルチスレッドマルチプロセス環境内で実行されています。

score 0 · Accepted Answer

0

PLINQの+1

Win32 スレッド、スレッドプールとファイバー、同期オブジェクト

于 2008-10-03T14:47:42.810 に答える

score 0 · Accepted Answer

主にその単純さ、移植性、および柔軟性のために、私は OpenMP をよく使用しました。全能の C++/Cli でさえ、複数の言語をサポートしています :)

score 0 · Accepted Answer

私は open cl を使用しています。mpi に比べてかなり使いやすいと思います。以前、並列および分散コンピューティングのコースの要件として mpi を使用したこともありましたが、手作業が多すぎると思います。数日で CUDA で動作します。CUDA は open cl と非常に似ていますが、CUDA は nvidia 製品専用であるという問題があります。

score 0 · Accepted Answer

glibc ライブラリhttp://library.gnome.org/devel/glib/stable/glib-Threads.htmlの gthreads はpthreads にコンパイルされるため、パフォーマンスが低下することはありません。また、非常に強力なスレッドプールと、スレッド間のメッセージキューも提供します。私はそれらを数回うまく使用しており、利用可能な機能に非常に満足しています.

score 0 · Accepted Answer

私は並行リンクブログを維持しており、これらの多くを時間の経過とともに取り上げてきました (今後も継続していきます)。

http://concurrency.tumblr.com

score 0 · Accepted Answer

私はこれまでJavaしか知りませんでしたが、そこでのマルチスレッドサポートは私にとってうまくいきました..

score 0 · Accepted Answer

I use MPI and like it very much. It does force you to think about the memory hierarchy, but in my experience, thinking about such things is important for high performance anyway. In many cases, MPI can largely be hidden behind domain-specific parallel objects (e.g. PETSc for solving linear and nonlinear equations).

multithreading - どの並列プログラミング API を使用していますか?

20 に答える 20

Related

Reference