caching - GPU のレイテンシはどのくらいですか?

Question

CPU コアとそのキャッシュ、メイン メモリなどの間の ns または CPU サイクルのいずれかでレイテンシを見つけることができます。

しかし、最新の GPU に関する同様の情報を見つけるのは非常に難しいようです。

GPU のレイテンシ、特に最新の nvidia GPU (GF110 以降) とそのメモリの間のレイテンシについて知っている人はいますか?

GPU メモリの帯域幅ははるかに大きいですが、レイテンシはどうでしょうか?

GPU のレイテンシは CPU のレイテンシと同じくらい高いと聞いたので、基本的に、多くの汎用コンピューティング タスクでは帯域幅が大きくてもほとんど意味がありません。これを確認する必要があります。

Answer 1

ベンダーはすべてのアーキテクチャの詳細を明らかにしていないため、研究者はリバース エンジニアリングを使用して GPU アーキテクチャをわかりやすく説明しています。この論文Demystifying GPU microarchitecture through microbenchmarkingおよびこれを引用している他の論文を参照してください (これは私の論文ではないことに注意してください)。下の画像に彼らの調査結果をコピーしました。