Увеличивает ли производительность многопоточности доступ к памяти?

Question

У меня есть большой массив в ОЗУ и вы хотите как можно быстрее прочитать данные из него. Игнорируйте любую возможную синхронизацию, я только задаюсь вопросом о теории.

Быстрее ли распространять эти чтения по нескольким потокам, чем просто использовать один?

Редактировать: точки данных составляют около 20 КБ каждый, и я не могу предсказать, в каком порядке они считываются.

Answer 1

Вообще говоря: да, но Остерегайтесь недостатков в кэше.

Предположим, что у вас есть int []: рассмотрим разбиение его в диапазонах последующих элементов и каждый поток получит собственный диапазон (thread1 получает от 0 до 127, thread2 от 128 до 255, ...) ,

Когда вы читаете один элемент массива, ядро ​​процессора, выполняющее нагрузку, скорее всего, загрузит некоторые из последовательных элементов массива в кеш , потому что в большинстве случаев они понадобятся в правильном порядке after (immagine для (int i = 0 ;; i ++) do (arra [i])): если вы не разделите свои данные в грубым способом, вся эта работа будет потрачена впустую.

Вы можете прочитать об этом в следующих статьях из Джо Даффи:

• Using concurrency for scalability
• Solving 11 Likely Problems In Your Multithreaded Code

Не строго родственный: The 'premature optimization is evil' myth, в частности, часть «Понять порядок что имеет значение «

Как сказано в сообщении @Alex, общее правило заключается в том, что у вас есть всегда измеряют и никогда не предполагают ничего: эффективная масштабируемость через параллелизм является сложной задачей и требует много глубокого понимания базовой архитектуры.

Answer 2

Технически да. Вы можете использовать больше потоков для чтения из разных мест в памяти. Процессор быстрее, поэтому он может выдавать много чтений, например, один читать на поток, пока не вернется результат от первого чтения. Затем начните обработку запросов. Это работает, если ОЗУ не блокируется; т.е. поддерживает сразу несколько считываний. Например, у вашей памяти есть только 1 входная линия и 1 выходная линия, тогда она будет блокировать, и никакое количество потоков не поможет.

Теперь имейте в виду, что именно вы делаете с данными, которые вы читаете. Если вы отправляете его по сети синхронно или выгружаете на жесткий диск, это не обязательно означает, что вы должны использовать многопоточность для чтения данных, поскольку это будет узким местом для write_to_HDD/sendData.

Если у вас есть еще один процессор, ожидающий обработки извлеченных данных, тогда вы можете парализовать хорошо. Прочитайте и обработайте одновременно.

Answer 3

Просто проверьте его для конкретной ситуации. Контекстное переключение потоков дорогостоящее. И вы можете быть так же быстро, используя однопоточный метод.

Измерьте производительность, не догадывайтесь.