AMD wavefront против рабочей группы

Question

Я немного запутался в терминах волнового фронта AMD и workgroupsize OpenCL. Я нашел разные источники, были сделаны разные заявления.

Мой вопрос: насколько размер волны в формате GCS для волнового фронта и в соответствии с этим: насколько большой должна быть рабочая группа по opencl, по крайней мере, чтобы не потерять занятость.

Информация, полученная мной из this document из amd, состоит в том, что размер фронта волнового фронта GCN равен 16. Я могу запустить 4 волновых фронта на CU за раз, и в каждом кубе будет максимум 40 волновых фронтов в полете. поэтому я подразумеваю, что рабочая группа должна быть по крайней мере размером 16 в opencl.

Но общая информация (например, в this или this) является то, что wavefrontsize 64 и в соответствии с этим workgroupsize должно быть не менее 64, если выше, кратное 64. Это также то, что совпадает с meassurements на моем ядре , которые состоят в том, что с workgroupsize 64 я получаю наивысшую производительность, для всего ниже 64 его ухудшение.

Большое спасибо за разъяснения.

Answer 1

Вы получили это неправильно. Прочтите this document еще раз. Модуль SIMD имеет 16 рабочих элементов, а размер волнового фронта - 64 рабочих элемента. Вот важные цитаты:

страница 3:

В GCN, каждый из CU включает в себя 4 отдельных блоков SIMD для векторной обработки. Каждый из этих SIMD-блоков одновременно выполняет одну операцию по 16 работам , но каждый из них может работать на отдельном волновом фронте.

страница 5:

Это имеет важное значение для управления потоком волнового фронта; например, сравнения приведут к результату для каждого из 64 рабочих элементов в волновом фронте.