Использование памяти в двух графических процессорах (Multi GPU)

Question

Я использую два GPU одинаковой конфигурации для расчета HPG GPGPU с использованием OpenCL. Одна из карт подключена для отображения, а около 200-300 МБ памяти всегда используются двумя программами, называемыми compiz и x server.

Мой вопрос в том, что при использовании этих графических процессоров для вычисления я могу использовать только частичный объем общей памяти в графическом процессоре, который используется для показа, тогда как второй GPU я могу использовать всю глобальную память.

В моем случае я использую два Nvidia Quadro 410, который имеет 192 ядра cuda, 512 МБ в качестве памяти, но 503 МБ. В случае показа графического процессора я могу использовать только 128 Мбайт для вычисления, и я могу использовать полные 503 МБ для расчета.

Согласно The OpenCL Specification Page 32

Максимальный размер памяти OBJ ЭСТ распределения в байтах. Минимальное значение составляет не более (1/4 й из CL_DEVICE_GLOBAL_MEM_SIZE , 128 * 1024 * 1024)

Также не должны это держать хорошо для всех присутствующих на GPU в системе?

Answer 1

Просто продолжайте читать с этого момента, вы увидите

Max size of memory object allocation 
in bytes. The minimum value is max 
(1/4th of 
CL_DEVICE_GLOBAL_MEM_SIZE , 
128*1024*1024) 

так в зависимости от того, что больше, 128 Мб или 1/4 от общего числа; будет предел.

Answer 2

OpenCL автоматически заменит данные или графический процессор, поэтому на самом деле вы не ограничены глобальной памятью GPU, вы можете использовать больше памяти, если вы не используете ее одновременно. Вы можете «obviusly» не создавать такие большие объекты, которые не подходят для памяти GPU. То есть, где этот предел умирает.

Ограничение тока макс для каждого объекта является как указывает @huseyin

CL_DEVICE_MAX_MEM_ALLOC_SIZE (cl_ulong) Максимальный размер размещения объекта памяти в байтах. Минимальное значение составляет не более (1/4 го CL_DEVICE_GLOBAL_MEM_SIZE, 128 * 1024 * 1024)

minimun_max_global_size = max(1/4*global, 128MB) 

Если вы читали Точным, это минимальное значение для максимального размера выделения. (Хитрая формулировка!) , Вероятно, nVIDIA устанавливает его на 1/4 на графическом дисплее и на весь размер памяти на графическом дисплее без дисплея. Но nVIDIA следит за спецификацией, делая это в обоих случаях.

Это то, что вы должны запросить и работать в пределах отчетов API. Вы не можете изменить его, и вы не должны догадываться об этом.