JOCL: зачем использовать буферы?

Question

Учитывая float[n] inputdata передать ядру OpenCL, может кто-нибудь просветить меня о различии между следующими тремя способами, чтобы передать это ядро:

A)

cl_mem input = clCreateBuffer(context, CL_MEM_USE_HOST_PTR Sizeof.cl_float * n, 
     inputdata, NULL); 
clSetKernelArg(kernel, i, Sizeof.cl_mem, Pointer.to(input)); 

B)

clSetKernelArg(kernel, i, Sizeof.cl_float * n, Pointer.to(inputdata)); 

С)

cl_mem input = clCreateBuffer(context, CL_MEM_options_here, Sizeof.cl_float * n, 
     NULL, NULL); 
clEnqueueWriteBuffer(command_queue, input, CL_TRUE, 0, Sizeof.cl_float * n, 
     inputdata, 0, NULL, NULL); 
clSetKernelArg(kernel, i, Sizeof.cl_mem, Pointer.to(input)); 

?

Я правильно понял, что разница между A) и C) заключается в том, что C) копирует весь массив один раз в начале и затем работает с ним с GPU, тогда как A) должен загружать свои данные в режиме реального времени, летать? Итак, A) хорошо, если требуется только небольшая часть массива, а C) - это способ пойти, если вы все равно используете весь массив?

А как насчет B)? Это больше похоже на A), больше похоже на C) или еще что-то другое?

Answer 1

Да, вы не можете передавать огромное количество параметров. Верхний предел размера всех параметров (обычно в диапазоне 50 KiB - вы можете запросить его с помощью clGetDeviceInfo и CL_DEVICE_MAX_PARAMETER_SIZE). С помощью методов a и c вы можете передавать гораздо большие буферы (сотни мегабайт). A не полезно для OpenCL 1.1 и ниже, поскольку буфер будет по-прежнему скопирован обычно, но с OpenCL 1.2 вы можете избежать одной копии, если ваш хост и устройство же (т.е. вы используете CPU OpenCL выполнения, например.)

Answer 2

Что каждый делает метод:

A) Этот метод использует буфер хоста для хранения данных. Если вы не хотите копировать данные на устройство, но хотите использовать его на месте. Я считаю, что это возможно только на устройствах ЦП, но я не совсем уверен.

B) Пропускает __global * тип вашего ядра. Используйте это для ограниченного объема данных. Помните, что для версии __local/NULL этого производительность может быть значительно (и отрицательно) вызвана большим количеством рабочих элементов/групп. Размер ограничен CL_DEVICE_MAX_PARAMETER_SIZE. Передача NULL приведет к типу __local *, а предел - CL_DEVICE_LOCAL_MEM_SIZE.

C) Используйте это, когда у вас есть большой (то есть больший, чем предел метода B) объем данных, необходимых вашему ядру. Это копирует данные из буфера вашего хоста в буфер устройства. Если ваши данные готовы к использованию, вы можете использовать флаг mem CL_MEM_COPY_HOST_PTR, чтобы скопировать его при создании буфера cl_mem и пропустить вызов clEnqueueWriteBuffer.