cudaEventRecord() Неправильно верен код процессора Visual Studio

Question

Выполняя некоторые базовые примеры CUDA, сделанные NVIDIA, я скопировал некоторый код, чтобы протестировать ускорение с CPU на вычисления GPU для матричного умножения.

После 30 минут просмотра результатов и просмотра моего процессора (да CPU), выполняющего вычисления в 1000 раз быстрее, чем мой GPU, я понял, что время не работает правильно. Отрезала кода выглядит (это код от NVIDIA):

//Create timers 
cudaEvent_t start; 
cudaEvent_t stop; 
float simpleKernelTime; 
float optimisedKernelTime; 

//start timer 
cudaEventCreate(&start); 
cudaEventCreate(&stop); 
cudaEventRecord(start, 0); 

matrixMultKernel<<<grid, block >>>(a_d, b_d, c_d, N); 

cudaEventRecord(stop, 0); 
cudaEventSynchronize(stop); 
cudaEventElapsedTime(&elapsedTime, start, stop); 

// Print time and do other things 

cudaEventRecord(start, 0); 

matrixMultCPU(a_h, b_h, d_, N); 

cudaEventRecord(stop, 0) 
cudaEventSynchronize(stop); 
cudaEventElapsedTime(&elapsedTime, start, stop); 

// Print time 

Этот код прекрасно работает на машине Linux (я скопировал один и тот же код, что и человек рядом со мной, и он получал хорошие сроки), но на машине с Windows 8 с Visual Studio 2013 время на процессорной части (вторая половина отрезки) не работало (всегда давало ~ 0,003 мс).

Почему это происходит? Я исправил его с помощью <time.h> (удаление cudaEventRecord() звонков и использование стандартных подходов синхронизации кода C), поэтому я не хочу знать, как это исправить, но еще больше, почему это происходит.

Answer 1

Из того, что я понимаю, события CUDA не предназначены для измерения времени только для процессора (только для хоста), а скорее для выполнения ядра и вызовов API CUDA. Из CUDA C Programming Guide3.2.5.6.События (курсив мой):

Среда также предоставляет возможность внимательно следить за устройства прогресс, а также выполнять точные сроки, с помощью позволяя приложение асинхронно записывать события в любую точку в программе и запрос, когда эти события будут завершены.

Я также удивлён, что вы получите в любое время (запуски ядра асинхронно), так как ваш код отсутствует cudaEventSynchronize():

cudaEventRecord(stop, 0); 
cudaEventSynchronize(stop); 
cudaEventElapsedTime(&elapsedTime, start, stop); 

Смотрите также How to Implement Performance Metrics in CUDA C/C++.

Для измерения времени только для CPU см. this thread.

EDIT:

Чтобы получить правильное время для matrixMultCPU() вам нужно добавить синхронизацию для start события:

cudaEventRecord(start, 0); 
cudaEventSynchronize(start);