cuda - CUDA で起動できるスレッドの最大数

Question

deviceQuery SDK サンプルを実行すると、次の統計が表示されます。

ブロックあたりの最大スレッド数: 1024 ブロック
の各次元の最大サイズ: 1024 x 1024 x 64
グリッドの各次元の最大サイズ: 65535 x 65535 x 65535

つまり、最大で合計 1024*65535*65535*65535 のスレッドを起動できるということですか?

Answer 1

talonmies が指摘したように、それは理論上の最大値です。ただし、起動できるスレッドの数は、各スレッドが使用するリソースの量にも依存します。これは、特定のブロックがデバイスの 1 つのストリーミング マルチプロセッサで実行されるためです。ストリーミング マルチプロセッサのリソース (特にレジスタとローカル メモリ) は有限であるため、ブロックあたりのスレッド数を質問に記載されている理論上の最大数よりも少なくすることができます。そのため、各スレッドが使用するリソースの量にも注意する必要があります。スレッドごとに使用されるリソースの量が多い場合、その値を達成できない可能性があります。