CUDA 推力：从一个设备复制到另一个设备

Question

我使用标准 CUDA malloc 在 CUDA 中分配了一个内存数组，并将其传递给函数，如下所示：

void MyClass::run(uchar4 * input_data)

我还有一个 class 成员，它是一个推力 device_ptr 声明为：

thrust::device_ptr<uchar4> data = thrust::device_malloc<uchar4(num_pts);

这里num_pts是数组中值的个数，input_data指针保证num_pts长

现在，我想将输入数组复制到 thrust_device_ptr。我看过推力文档，其中很多都在谈论从设备复制到主机内存，反之亦然。我想知道在推力上执行此设备到设备复制的最佳性能最佳方式是什么，还是我应该只使用 cudaMemcpy？

Answer 1

执行此操作的规范方法就是使用 thrust::copy。 thrust::device_ptr 具有标准指针语义，API 将无缝理解源指针和目标指针是在主机上还是在设备上，即：

#include <thrust/device_malloc.h>
#include <thrust/device_ptr.h>
#include <thrust/copy.h>
#include <iostream>

int main()
{
    // Initial host data
    int ivals[4] = { 1, 3, 6, 10 };

    // Allocate and copy to first device allocation
    thrust::device_ptr<int> dp1 = thrust::device_malloc<int>(4);
    thrust::copy(&ivals[0], &ivals[0]+4, dp1);

    // Allocate and copy to second device allocation
    thrust::device_ptr<int> dp2 = thrust::device_malloc<int>(4);
    thrust::copy(dp1, dp1+4, dp2);

    // Copy back to host
    int ovals[4] = {-1, -1, -1, -1};
    thrust::copy(dp2, dp2+4, &ovals[0]);

    for(int i=0; i<4; i++)
        std::cout << ovals[i] << std::endl;


    return 0;
}

这是做什么的：

talonmies@box:~$ nvcc -arch=sm_30 thrust_dtod.cu 
talonmies@box:~$ ./a.out 
1
3
6
10

CUDA 推力：从一个设备复制到另一个设备

CUDA thrust: copy from device to device

c++

cuda

gpgpu

thrust