функция обертка для cudaMalloc и cudaMemcpy

Question

Я был болен, глядя на весь код шаблонного Cuda для копирования данных на устройство, так что я написал эту функцию обертку:

void allocateAndCopyToDevice(void* device_array, const void* host_array, const size_t &count) 
{ 
    gpuErrchk(cudaMalloc((void**)&device_array, count)); 
    gpuErrchk(cudaMemcpy(device_array, host_array, count, cudaMemcpyHostToDevice)); 
} 

, но по какой-то причине это привело в из ограничивает доступ к памяти при использовании массива, инициализированного таким образом. Код инициализации, который я использовал, выглядит так:

cuDoubleComplex *d_cmplx; 
allocateAndCopyToDevice(d_cmplx,cmplx,size*sizeof(cuDoubleComplex)); 

Может ли кто-нибудь объяснить, почему это не работает?

---

После просмотра комментария immibis, я понял, что cudaMalloc ожидает указатель на указатель, так что вместо этого я прохожу по значению указателя на указатель:

void allocateAndCopyToDevice(void** device_array, const void* host_array, const size_t &count) 
{ 
    gpuErrchk(cudaMalloc(device_array, count)); 
    gpuErrchk(cudaMemcpy(*device_array, host_array, count, cudaMemcpyHostToDevice)); 
} 

и инициализация теперь выглядит следующим образом :

cuDoubleComplex *d_cmplx; 
allocateAndCopyToDevice((void **)&d_cmplx,cmplx,size*sizeof(cuDoubleComplex)); 

Это работает, но мне все же интересно, есть ли лучший способ сделать это? Как другие люди обрабатывают передачи памяти в коде cuda?

Answer 1

Я хотел бы сделать что-то вроде

template <typename T> 
T* allocateAndCopyToDevice(const T* host_array, std::size_t count) 
{ 
    // some static_assert for allowed types: pod and built-in. 
    T* device_array = nullptr; 
    gpuErrchk(cudaMalloc(&device_array, count * sizeof(T))); 
    gpuErrchk(cudaMemcpy(device_array, host_array, count * sizeof(T), cudaMemcpyHostToDevice)); 
    return device_array; 
} 

и использовать его:

cuDoubleComplex *d_cmplx = allocateAndCopyToDevice(cmplx, size);