Выходы CUDA всегда 0

Question

Выход печати всегда равен 0 после выполнения функции ядра. После некоторого тестирования cudaMemcpy все еще верна. Но ядро ​​кажется неработоспособным, не может получить правильные данные из d_inputs. Может ли кто-нибудь помочь объяснить? Благодаря!

#include <cuda_runtime.h> 
#include <cuda.h> 
#include <stdio.h> 
#include <sys/time.h> 
#include <math.h> 

#define N 32 

__global__ void Kernel_double(int niters, int* d_inputs,double* d_outputs) 
{ 
    int tid = blockIdx.x * blockDim.x + threadIdx.x; 

    if (tid<N) { 
    double val =(double) d_inputs[tid]; 
    /*for (int iter=0; iter < niters; iter++){ 
    val = (sqrt(pow(val,2.0)) + 5.0) - 101.0; 
    val = (val/3.0) + 102.0; 
    val = (val + 1.07) - 103.0; 
    val = (val/1.037) + 104.0; 
    val = (val + 3.00) - 105.0; 
    val = (val/0.22) + 106.0; 
    }*/ 
    val = val + 1.0; 
    //printf("This is %f\n",val); 
    d_outputs[tid] = val; 
} 
} 

int main(int argc, char **argv) 
{ 

    int niters = 10; 
    printf("Iterate %d times with GPU 0 or CPU 1: %d\n", niters, cpu); 

    int inputs[N]; 
    for (int i = 0; i<N; i++){ 
    inputs[i] = i+1; 
    } 

    int d_inputs[N]; 
    double d_outputs[N]; 
    double outputs[N]; 

    cudaMalloc((void**)&d_inputs, N*sizeof(int)); 
    cudaMalloc((void**)&d_outputs, N*sizeof(double)); 
    printf("test %d \n", inputs[3]); 
    cudaMemcpy(d_inputs, inputs, N*sizeof(int), cudaMemcpyHostToDevice); 
    printf("test %d \n", d_inputs[1]); 
    Kernel_double<<<16,2>>>(niters, d_inputs,d_outputs); 
    //cudaDeviceSynchronize(); 
    cudaMemcpy(outputs, d_outputs, N*sizeof(double), cudaMemcpyDeviceToHost); 
    for(int j =0;j<10; j++){ 
     printf("Outputs[%d] is: %f and %f\n",j, d_outputs[j], outputs[j]); 
     } 
    cudaFree(d_inputs); 
    cudaFree(d_outputs); 

    return EXIT_SUCCESS; 
} 

Answer 1

1. Каждый раз, когда у вас возникли проблемы с кодом CUDA, вы должны использовать proper cuda error checking и запустить свой код с cuda-memcheck, перед просят помощи у других. Даже если вы не понимаете выход ошибки, это будет полезно для других, пытающихся вам помочь. Если вы использовали правильную проверку ошибок cuda здесь, вам сообщают, что ваши операции cudaMemcpy сообщают о некорректном аргументе из-за пункта 3 ниже.
2. Ваш код не компилируется. cpu не определен нигде.

3. Мы не ассигновать или создавать указатели устройств, как это:

   int d_inputs[N]; 
   double d_outputs[N]; 
   

   Те создания стека переменных (массивов), что компилятор имеет право рассматривать, как если бы оно было постоянным указателем. Вместо этого вы должны сделать это следующим образом:

   int *d_inputs; 
   double *d_outputs; 
   

   компилятор понимает, что это изменяемые указатели (которые вы будете изменять позже с cudaMalloc).

4. После того, как вы устранить проблему в пункте 3, то это не будет законно:

   printf("test %d \n", d_inputs[1]); 
   

   как это требует разыменования указателя устройства (d_inputs) в коде хост, который является незаконным в CUDA, по крайней мере, вы сделали это здесь. Аналогичная проблема возникает и в инструкции printf в вашем коде (d_outputs).

Следующий код имеет вышеуказанные пункты, рассматриваемые в какой-то степени, и, кажется, правильно работать для меня:

$ cat t44.cu 
#include <cuda_runtime.h> 
#include <cuda.h> 
#include <stdio.h> 
#include <sys/time.h> 
#include <math.h> 

#define N 32 

__global__ void Kernel_double(int niters, int* d_inputs,double* d_outputs) 
{ 
    int tid = blockIdx.x * blockDim.x + threadIdx.x; 

    if (tid<N) { 
    double val =(double) d_inputs[tid]; 
    /*for (int iter=0; iter < niters; iter++){ 
    val = (sqrt(pow(val,2.0)) + 5.0) - 101.0; 
    val = (val/3.0) + 102.0; 
    val = (val + 1.07) - 103.0; 
    val = (val/1.037) + 104.0; 
    val = (val + 3.00) - 105.0; 
    val = (val/0.22) + 106.0; 
    }*/ 
    val = val + 1.0; 
    //printf("This is %f\n",val); 
    d_outputs[tid] = val; 
} 
} 

int main(int argc, char **argv) 
{ 

    int niters = 10; 
    int cpu = 0; 
    printf("Iterate %d times with GPU 0 or CPU 1: %d\n", niters, cpu); 

    int inputs[N]; 
    for (int i = 0; i<N; i++){ 
    inputs[i] = i+1; 
    } 

    int *d_inputs; 
    double *d_outputs; 
    double outputs[N]; 

    cudaMalloc((void**)&d_inputs, N*sizeof(int)); 
    cudaMalloc((void**)&d_outputs, N*sizeof(double)); 
    printf("test %d \n", inputs[3]); 
    cudaMemcpy(d_inputs, inputs, N*sizeof(int), cudaMemcpyHostToDevice); 
// printf("test %d \n", d_inputs[1]); 
    Kernel_double<<<16,2>>>(niters, d_inputs,d_outputs); 
    //cudaDeviceSynchronize(); 
    cudaMemcpy(outputs, d_outputs, N*sizeof(double), cudaMemcpyDeviceToHost); 
    for(int j =0;j<10; j++){ 
     printf("Outputs[%d] is: %f\n",j, outputs[j]); 
     } 
    cudaFree(d_inputs); 
    cudaFree(d_outputs); 

    return EXIT_SUCCESS; 
} 
$ nvcc -lineinfo -arch=sm_61 -o t44 t44.cu 
$ cuda-memcheck ./t44 
========= CUDA-MEMCHECK 
Iterate 10 times with GPU 0 or CPU 1: 0 
test 4 
Outputs[0] is: 2.000000 
Outputs[1] is: 3.000000 
Outputs[2] is: 4.000000 
Outputs[3] is: 5.000000 
Outputs[4] is: 6.000000 
Outputs[5] is: 7.000000 
Outputs[6] is: 8.000000 
Outputs[7] is: 9.000000 
Outputs[8] is: 10.000000 
Outputs[9] is: 11.000000 
========= ERROR SUMMARY: 0 errors 
$