Является ли время процессора релевантным для Hyperthreading?

Question

Увеличивается время CPU (как сообщается командой time CLI), указывающее на неэффективность при использовании гиперпотока (например, время, затрачиваемое на прокрутки или промахи в кэше), или возможно, что время процессора раздувается нечетным характером HT? (например, реальные ядра заняты, а HT не может ударить)

У меня четырехъядерный i7, и я тестирую тривиально-параллелизуемую часть (переопределение изображения на палитру) OpenMP program - без блокировок, без критических разделы. Все потоки получают доступ к некоторой части памяти общего доступа только для чтения (справочная таблица), но записываются только в их собственную память.

cores real CPU 
    1: 5.8 5.8 
    2: 3.7 5.9 
    3: 3.1 6.1 
    4: 2.9 6.8 
    5: 2.8 7.6 
    6: 2.7 8.2 
    7: 2.6 9.0 
    8: 2.5 9.7 

Я обеспокоен тем, что количество процессорного времени используется быстро растет, как количество ядер превышает 1 или 2.

Я полагаю, что в идеальном сценарии CPU время не увеличится много (то же самое количество работа просто распределяется по нескольким ядрам).

Означает ли это, что 40% накладных расходов потрачено на распараллеливание программы?

Answer 1

Это, возможно, артефакт о том, как измеряется время процессора. Тривиальный пример: если вы запускаете процессор на частоте 100 МГц и процессор 3 ГГц на одну секунду, каждый будет сообщать, что он работал в течение одной секунды. Второй процессор может работать в 30 раз больше, но требуется одна секунда.

С гиперпотоком разумная (не совсем точная) модель будет заключаться в том, что одно ядро ​​может запускать либо одну задачу, либо, скажем, 2000 МГц, или две задачи, скажем, 1200 МГц. Выполняя две задачи, он выполняет только 60% работы на поток, но 120% работы для обоих потоков вместе, улучшается на 20%. Но если ОС спрашивает, сколько секунд времени процессора было использовано, первая сообщит «1 секунду» после каждой секунды в реальном времени, а вторая сообщит «2 секунды».

Таким образом, указанное время процессора увеличивается. Если это меньше, чем удваивается, общая производительность улучшается.

Answer 2

Быстрый вопрос - вы используете подлинную программу времени/usr/bin/time или встроенную команду bash с тем же именем? Я не уверен, что это важно, они очень похожи.

Посмотрите на свою таблицу чисел. Я чувствую, что обработанный набор данных (т. Е. Ввод плюс все данные) достаточно большой в целом (больше, чем кэш L2) и что обработка на элемент данных не такая уж длинная.

Цифры показывают почти линейное улучшение от 1 до 2 ядер, но это значительно уменьшает время, когда вы используете 4 ядра. Хиоровые ядра практически ничего не добавляют. Это означает, что за что-то борются. В вашей программе есть свободные потоки, так что это может быть только память (кеш L3 и основная память на i7).

Это звучит как типичный пример привязки ввода-вывода, а не вычисления, причем ввод/вывод в этом случае относится к/из кеша L3 и основной памяти. Кэш L2 составляет 256 тыс., Поэтому я предполагаю, что размер ваших входных данных плюс один набор результатов и все промежуточные массивы больше 256 тыс.

Я рядом с маркой?

Вообще говоря, при рассмотрении того, сколько потоков необходимо использовать, вы должны учитывать общие кеш-память и скорость памяти и размеры набора данных. Это может быть правильным, если вы правы, потому что вам нужно работать во время выполнения, что является большим количеством усилий по программированию (если не установлена ​​фиксированная конфигурация вашего оборудования).