cuda - 複数の GPU へのグローバル変数の割り当て

Question

単一の GPU で動作するコードがあります。そのコードでは、私は使用しました

__device__ uint32_t aaa;

コードの先頭にあるこの行は、関連する唯一のデバイスでグローバル変数を宣言しました。

複数のデバイス(2つ以上)を使いたいのですが、この場合グローバル変数の割り当て方がわかりません。

私は使用する必要cudaSetDevice()があると思いますが、この関数をどこで呼び出すべきか疑問に思います。