このnppiGraphcut_32s8u
関数は、32 ビットの符号付き整数エッジ容量で機能します。CUDA 6.5ツールキットに含まれているgrabCutの例では、単純に にキャストNpp32f
していNpp32s
ます。たとえばGrabcutUtil.cu
、grabcutNPP のサンプル フォルダーから:
// Top/Bottom
Npp32s bottom;
bottom = _FIXED(edge_weight(center, tex2D(imageTex, x + 0.5f ,y + 1.5f), alpha, beta, 1.0f));
where をedge_weight
返しますNpp32f
。エッジ容量が大きな値になるように数値を拡大して、丸め誤差を回避しましたか?