cuda - リモート CUDA プロファイリング?

Question

CUDA プロファイルの実行 (computeprof と同様) をリモートで実行し、分析のためにプロファイルを戻すことはできますか?

特定のリモートマシンはヘッドレスであり、私の管理下にないため、X や Qt ライブラリなどはありません。

Answer 1

はい、できます。CUDA ドライバーにはプロファイリング機能が組み込まれています。その方法は、ツールキットCompute_Profiler.txtのディレクトリにあるファイルで説明されていますdocが、基本的な考え方は次のようなものです。

$ COMPUTE_PROFILE=1 COMPUTE_PROFILE_CSV=1 COMPUTE_PROFILE_LOG=log.csv COMPUTE_PROFILE_CONFIG=config.txt ./app

これは、プロファイリングをオンにするようランタイムに指示し、log.csvから読み取ったプロファイル統計を含む、 に書き込まれた csv 形式の出力を使用しconfig.txtます。アプリが実行された後、ランタイムは未加工のプロファイリング結果を含む出力ファイルをドロップします。その後、選択したツールを使用してそれらを見ることができます。ビジュアル プロファイラーは出力に対してオープンであると確信できますが、それが行う高度な同期の多くは、独自のプロファイル構成ファイルを使用して出力を生成する必要があります (フードの下では、手動で行うのと同じことを動的に行いますが、飛ぶ）。ヘッドレス クラスター ノードでプロファイラーを使用せずに特定のアプリケーション プロファイリングの実行を再生成できるように、構成ファイルのコピーを掘り下げてスクレイピングしました。あまり楽しくありませんが、それはできます。