並列化したいシリアル C++ プログラムがあります。MPI_Send
MPI 、、、などの基本を知っていMPI_Recv
ます。基本的に、データ処理アルゴリズムよりもはるかに高速に実行されるデータ生成アルゴリズムがあります。現在は直列で動いていますが、ルートプロセスでデータ生成を実行し、スレーブプロセスでデータ処理を行い、ルートからスレーブに処理対象のデータを含むメッセージを送信することを考えていました。このようにして、各スレーブはデータ セットを処理し、次のデータ セットを待ちます。
問題は、ルート プロセスがデータの生成を完了すると、スレーブがさらに待機しているため、プログラムがハングすることです。
これは問題の例です:
#include "mpi.h"
#include <cassert>
#include <cstdio>
class Generator {
public:
Generator(int min, int max) : value(min - 1), max(max) {}
bool NextValue() {
++value;
return value < max;
}
int Value() { return value; }
private:
int value, max;
Generator() {}
Generator(const Generator &other) {}
Generator &operator=(const Generator &other) { return *this; }
};
long fibonnaci(int n) {
assert(n > 0);
if (n == 1 || n == 2) return 1;
return fibonnaci(n-1) + fibonnaci(n-2);
}
int main(int argc, char **argv) {
MPI_Init(&argc, &argv);
int rank, num_procs;
MPI_Comm_rank(MPI_COMM_WORLD, &rank);
MPI_Comm_size(MPI_COMM_WORLD, &num_procs);
if (rank == 0) {
Generator generator(1, 2 * num_procs);
int proc = 1;
while (generator.NextValue()) {
int value = generator.Value();
MPI_Send(&value, 1, MPI_INT, proc, 73, MPI_COMM_WORLD);
printf("** Sent %d to process %d.\n", value, proc);
proc = proc % (num_procs - 1) + 1;
}
} else {
while (true) {
int value;
MPI_Status status;
MPI_Recv(&value, 1, MPI_INT, 0, 73, MPI_COMM_WORLD, &status);
printf("** Received %d from process %d.\n", value, status.MPI_SOURCE);
printf("Process %d computed %d.\n", rank, fibonnaci(2 * (value + 10)));
}
}
MPI_Finalize();
return 0;
}
明らかに、上記のすべてが「良い習慣」というわけではありませんが、要点を理解するには十分です。
スレーブ プロセスからを削除すると、while(true)
各スレーブが終了したときにプログラムが終了します。ルートプロセスがその仕事を終え、すべてのスレーブが送信されたすべてのものを処理した後にのみ、プログラムを終了させたいと思います。
生成されるデータ セットの数がわかっていれば、その数のプロセスを実行してすべてを正常に終了させることができますが、ここではそうではありません。
助言がありますか?これを行う API はありますか? これは、トポロジを改善することで解決できますか? これをもっとうまくやるでしょうMPI_Isend
かMPI_IRecv
?私はMPIにかなり慣れていないので、ご容赦ください。
ありがとう