Освобождение памяти CUDA болезненно медленное

Question

Я выделяю некоторые массивы флоатов (довольно большие, т.е. 9 000 000 элементов) на графическом процессоре, используя cudaMalloc((void**)&(storage->data), size * sizeof(float)). В конце моей программы я освобождаю эту память, используя cudaFree(storage->data);.

Проблема в том, что первое освобождение происходит очень медленно, около 10 секунд, тогда как другие почти мгновенно.

Мой вопрос в следующем: что может вызвать эту разницу? Является ли память освобождения на графическом процессоре, как правило, медленной?

Answer 1

Как указано на форумах NVIDIA, это почти наверняка проблема с тем, как вы выбираете вещи, а не cudaFree.

Answer 2

не должно быть так медленно, на Linux с cuda 2.2 требуется доля секунды. Вы пытались запустить профилировщики хоста и устройства, чтобы увидеть, почему именно медленно? сколько у вас выделенного распределения ?, у кого есть какой-то штраф, но не такой большой.