Специальный случай умножения матрицы Используя CUDA

Question

Я ищу некоторые специальные функции (CUDA), которые посвящают типичным плотным матричным умножениям, например. A * B, где размер A равен 6 * n, размер B равен n * 6, а n очень велико (n = 2^24). Я использовал CUBLAS и некоторые другие библиотеки для тестирования этого примера. В CUBLAS для этого примера мы используем 6 * 6 = 36 потоков, что далеко от полного параллелизма графического процессора, поэтому я разбил A и B на подматрицы (векторы) а затем реализовать функцию точечного продукта для каждого из них, а производительность была значительно улучшена. Проблема в том, что в этом случае нам нужно запустить 36 ядер CUDA, и между ними есть много одинаковых следов данных (одни и те же данные были получены в несколько раз из глобальной памяти GPU). Поэтому я спрашиваю, существует ли какое-либо решение этой проблемы.

Answer 1

Я недавно написал такую ​​процедуру умножения матрицы для моего клиента. Трюк состоит в том, чтобы извлечь больше параллелизма, разделив длинное внутреннее суммирование на несколько меньших. Затем используйте отдельный запуск ядра для вычисления полной суммы из частичных.