0

スラストdevice_vectorを100のチャンクに分割しました（ただし、GPUメモリ上で完全に連続しています）。コピー先の新しいdevice_vectorを再割り当てせずに、各チャンクの最後の5つの要素を削除したいと思います。

// Layout in memory before (number of elements in each contiguous subblock listed):
// [   95   | 5 ][   95   | 5 ][   95   | 5 ]........

// Layout in memory after cutting out the last 5 of each chunk (number of elements listed)
// [  95  ][  95  ][  95  ].........

thrust::device_vector v;
// call some function on v;

// so elements 95-99, 195-99, 295-299, etc are removed (assuming 0-based indexing)

どうすればこれを正しく実装できますか？できれば、変換を保存するためにGPUメモリに新しいベクトルを割り当てないようにします。このような操作を処理するためのスラストテンプレート関数があることは理解していますが、それらをつなぎ合わせるのに問題があります。これを行うことができるThrustが提供するものはありますか？

4

1 に答える 1

1

バッファメモリの割り当てがないということは、コピー順序を維持する必要があることを意味します。これは、GPU ハードウェアを完全に利用するために並列化することはできません。

これは、Thrust とバッファ mem を使用してこれを行うためのバージョンです。

ラムダ式ファンクターがイテレーターで使用されるため、Thrust 1.6.0+ が必要です。

#include "thrust/device_vector.h"
#include "thrust/iterator/counting_iterator.h"
#include "thrust/iterator/permutation_iterator.h"
#include "thrust/iterator/transform_iterator.h"
#include "thrust/copy.h"
#include "thrust/functional.h"

using namespace thrust::placeholders;

int main()
{
    const int oldChunk = 100, newChunk = 95;
    const int size = 10000;

    thrust::device_vector<float> v(
            thrust::counting_iterator<float>(0),
            thrust::counting_iterator<float>(0) + oldChunk * size);
    thrust::device_vector<float> buf(newChunk * size);

    thrust::copy(
            thrust::make_permutation_iterator(
                    v.begin(),
                    thrust::make_transform_iterator(
                            thrust::counting_iterator<int>(0),
                            _1 / newChunk * oldChunk + _1 % newChunk)),
            thrust::make_permutation_iterator(
                    v.begin(),
                    thrust::make_transform_iterator(
                            thrust::counting_iterator<int>(0),
                            _1 / newChunk * oldChunk + _1 % newChunk))
                    + buf.size(),
            buf.begin());

    return 0;
}

mod operator を使用しているため、上記のバージョンでは最高のパフォーマンスが得られない可能性があると思います%。より高いパフォーマンスを得るには、cuBLAS 関数cublas_geam()を検討してください。

float alpha = 1;
float beta = 0;
cublasSgeam(handle, CUBLAS_OP_N, CUBLAS_OP_N,
            newChunk, size,
            &alpha,
            thrust::raw_pointer_cast(&v[0]), oldChunk,
            &beta,
            thrust::raw_pointer_cast(&v[0]), oldChunk,
            thrust::raw_pointer_cast(&buf[0]), newChunk);
于 2013-01-31T06:34:36.660 に答える