cuda - CUDA ランタイム API インターセプト

Question

CUDA ランタイム API への呼び出しをインターセプトする方法を説明できる人はいますか? 私は初心者で、Linux ライブラリの傍受について少し読みました。Cuda Runtime Api をインターセプトできるように、同じ概念を使用したいと考えています。

Answer 1

CUDA ツールキットに含まれる CUPTI SDK は、CUDA ランタイム API の開始時と終了時にコールバックを有効にするためのサポートを提供します。コールバックの状態を変更することは可能ですが、現在のコールバック システムでは、パラメーターの値を変更したり、実際の関数をスキップしたりすることはできません。

入力および出力パラメーターを変更する機能が必要な場合は、傍受レイヤーを生成することをお勧めします。Doxygen perlmod とかなり小さな perl スクリプトを使用して、インターセプト レイヤーを生成できます。

オセロットのソース コードには、完全な CUDA ランタイム インターセプト レイヤーがあると思います。

Linux では、LD_PRELOAD を使用してインターセプト レイヤーをアプリケーションに挿入できます。