Вопросы памяти при многопоточности

Question

Я реализую алгоритм am на C/C++ для обработки некоторых векторов, и я подумал, что это может быть хорошей идеей сделать его параллельным, так как я работаю с многоядерным процессором. У меня есть некоторый опыт работы с GPGPU, и плохой доступ к памяти может испортить всю производительность, нужно ли мне рассмотреть любую специальную схему доступа между ядрами на процессоре?

Благодаря

Answer 1

Есть целый ряд проблем, связанных с памятью вы можете столкнуться с установкой многопроцессорной, и некоторые из них могут замедлить приложение к ползанию.

Вы должны быть примерно осведомлены о размере строки кэша на вашем поле и попытаться 2 вещи:

1. Ограничить количество строк кэша данных (в частности, строки кэша, которые вы пишете в) доступ в тесной временной последовательности, один поток. То есть, избегайте «грязных» больше строк кеша, чем нужно.
2. Избегайте, как чума, имеющая два отдельных потока «одновременно», получает доступ к одной и той же линии кэширования данных с одной записью.

(Эти два правила также применяются к страницам данных, если вы имеете дело с большими структурами данных, которые должны быть выгружены.)

Где возможно, создать отдельные структуры рабочих данных (особенно куча) для каждый поток, а не совместное использование данных. Особенно остерегайтесь иметь общий счетчик, который обновляет все потоки, и (очевидно) избегать блокировок и семафоров, за исключением критических стыков, где вам абсолютно необходимо синхронизировать потоки.

Answer 2

@ Hot_Licks: На самом деле, если потоки являются двумя гиперпотоками, запущенными на одном и том же ядре, тогда нет проблем с тем, чтобы к ним обращались разные потоки, как при чтении, так и в записи. Чистые линии не требуют затрат между аппаратными потоками на одном процессоре Intel. Даже грязные линии делятся очень дешево - хотя вы можете получить MOnukes, если один парень читает данные, в то время как другой пишет. (Как ни странно, никакого штрафа, если два таких аппаратных/гиперпотока пишут одновременно.)

С единственным «резьбовым» процессором AMD, бульдозером, я думаю, что обмен письмами еще менее дорогостоящий.

Но это относится только к аппаратным потокам, например. Интеллектуальные процессоры Intel или логические процессоры, работающие на одних и тех же физических процессорах. Если они работают на разных физических процессорах, выигрыш невозможен. Поскольку большинство программных пакетов потоковой передачи произвольно переносят потоки, ваше правило не так уж плохо.

Тем не менее вы все равно хотите минимизировать (a) линии, к которым обращается один поток, и (b) общее количество строк, к которым обращаются несколько потоков, даже если они не используются другими потоками. Поскольку тайники - MLC, LLC - являются ограниченным ресурсом. Но вы правы - когда вам не хватает кеша ...