cuda - CUDAワープスケジューリング：現在のブロックからの別のワープまたは別のブロックからのワープ？

Question

SMで実行中のワープが停止した場合、遅延をカバーするために停止したワープを交換するために、SMで別のワープをスケジュールする必要があります。しかし、失速した経糸と同じブロックからの代替品ですか、それとも別のブロックに属している必要がありますか、それともどちらの場合も問題ありませんか？

Answer 1

このトピックは、GPU アーキテクチャ コミュニティの公開研究です。人々はここでいくつかのワープ スケジューリング ポリシーを評価しました。さまざまなスケジューリング ポリシーの長所と短所については、次の最近の論文を参照してください。

• 一部の人々は、エネルギー効率のために 2 レベルのワープ スケジューリングを使用することを提案しています:スループット プロセッサでスレッド コンテキストを管理するためのエネルギー効率の高いメカニズム
• 一部の人々は、レイテンシの隠蔽を改善するために 2 レベルのワープ スケジューリングを使用することを提案しています:大きなワープと 2 レベルのワープ スケジューリングによる GPU パフォーマンスの向上
• 他の人は、SM の L1 キャッシュの競合を減らす順序でワープをスケジュールすることを提案しています: Cache-Conscious Wavefront Scheduling
• そして最後に、遅延の隠蔽とエネルギー効率を改善するためのスケジューラを提案する NVIDIA の研究者からの特許があります。

あなたの質問への回答として、どちらのポリシーも問題なく、どのアーキテクチャでも使用できます。しかし、本当の部下はまだ公開されていません。