Кэш-хиты, промахи и прогнозы - влияние на производительность

Question

Я закодировал следующий игровой тест.

int N = 1024*4096; 
unsigned char *ary = malloc(N); 
ary[0] = 1; 
int stride, i; 
double start, end; 
int sum; 
for(stride = 1; stride < N; ++stride) { 
    start = getCPUTime(); 

    sum = 0; 
    for(i = 0; i < N; i+=stride) { 
     sum += ary[i]; 
    } 

    end = getCPUTime(); 
    printf("stride %d time %f sum %d\n", stride, (end - start)/(N/stride), sum); 
} 

В принципе, он выполняет итерацию по массиву различными шагами. Я тогда нанесены результаты:

(Результаты сглаженные)

Когда шаг составляет ~ 128, процессор может поместиться все данные, которые будут доступны в L1-кэш. Учитывая линейность доступа к будущим читателям, предположительно предсказано.

Мой вопрос: почему среднее время для чтения продолжает расти после этого? Мое рассуждение о шаге = ~ 128 также выполняется для значений, больших этого.

Спасибо!

Answer 1

Это код, который вы использовали? Все, что он делает, это чтение данных с 16 МБ. Я запустил его на своем ПК, где 16 МБ - из ОЗУ, вычисляя МБ/секунду, что составило 993 на шаге 2, уменьшившись до 880 при шаге 999. Основываясь на измерении времени микросекунд, ваш расчет времени составил 0,0040 при шаге 2, увеличившись 0,0045 на шаге 999.

Существует множество причин для снижения скорости при увеличенных шагах, таких как всплеск, выравнивание кэш-памяти и различные банки памяти.