cuda - 2 つの CUDA プログラムが干渉しないようにする方法

Question

2 人のユーザーが同時に CUDA プログラムを実行しようとすると、カードまたはドライバーのいずれか (または両方?) がロックされる傾向があることに気付きました。通常の動作を復元するには、カードをリセットするか、マシンを再起動する必要があります。

GPU をロックして、実行中に他のプログラムが干渉できないようにする方法はありますか?

OSはサーバー上で動作するUbuntu 11.10です。X Windows が実行されていない間、カードはテキストシステムコンソールを表示するために使用されます。複数のユーザーがいます。

score 7 · Accepted Answer

Linux または Windows で TCC ドライバーを実行している場合は、nvidia-smiユーティリティを使用して GPU を計算専用モードにすることができます。

Compute 排他モードでは、別のプロセスがその GPU でコンテキストを既に保持している場合、ドライバーはコンテキスト確立要求を拒否します。使用中のコンピューティング専用 GPU で実行しようとするプロセスは、使用可能なデバイスがないというエラーを受け取り、失敗します。

score 2 · Accepted Answer

Task Spoolerなどを使用して、プログラムをキューに入れ、一度に 1 つずつ実行できます。

TORQUE Resource Managerを使用していますが、より構成が難しいですts。TORQUE を使用すると、複数のキュー (つまり、cuda ジョブ用に 1 つ、cpu ジョブ用に 2 つ) を作成し、各 GPU に異なるジョブを割り当てることができます。

2 に答える 2