Напишите программу и попробуйте сравнить (измерить, если можно) время доступа к данным из основной памяти и кеша.Как написать программу на C для измерения скорости кеша?
Если вы можете это сделать, то как измерить скорость каждого уровня кеша?
Как правило, это требует некоторого знания «геометрии» кэш-памяти и другой его аспектах. Также полезно иметь некоторый контроль над системой за пределы простого доступа пользователя к ней и зависящим от реализации вещам, таким как более тонкое время, чем может быть поставлено через стандартный механизм C clock.
Вот первоначальный подход:
volatile, чтобы предотвратить компилятор от оптимизации доступа, который в противном случае не имеет эффекта.Когда вы это сделаете, вы, как правило, увидите быстрые скорости (количество байтов, считанных/записанных в секунду) для небольших длин и более медленных скоростей для более длинных длин. Снижение скорости будет происходить там, где превышены размеры разных уровней кеша. Таким образом, вы, скорее всего, увидите размеры кеша L1 и L2, отраженные в данных, собранных с использованием вышеупомянутого метода.
Вот некоторые причины такой подход является неадекватным:
Вам нужно придумать эвристику, которая заставит пропустить кеш на 100% (или очень близкую) (надеюсь, у вас есть код отказа от кэширования?) И 100% -ный кэш. Hooray, который работает для 1 уровня кеша. Теперь, как сделать то же самое для уровня 2 и 3?
Со всей серьезностью, то, вероятно, не способ сделать это на 100% надежно без специальных аппаратных средств и следов, подключенных к CPU и памяти, но вот что я хотел бы сделать:
Написать «букет» из материал в 1 место в памяти - достаточно, чтобы вы могли быть уверены, что он последовательно кладет L1-кеш и записывает время (что влияет на ваш кеш, так что будьте осторожны). Вы должны сделать этот набор записей без ветвей, чтобы попытаться избавиться от несоответствий прогноза ветвления. Это лучшее время. Теперь, каждый так часто, записывайте данные о кеш-строке в случайное удаленное местоположение в ОЗУ в конце вашего известного местоположения и записывайте новое время. Надеюсь, это займет больше времени. Продолжайте делать эту запись в разное время, и, надеюсь, вы увидите пару таймингов, которые обычно группируются. Каждая из этих групп «может» показывать тайминги для L2, L3 и таймингов доступа к памяти. Проблема в том, что есть много других вещей, которые мешают. ОС может контекст переключить вас и испортить кеш. Прерывание может прийти и через ваше время отключить. Будет много вещей, которые могли бы выбросить ценности. Но, надеюсь, вы получите достаточный сигнал в своих данных, чтобы узнать, работает ли он.
Это, вероятно, было бы проще сделать в более простой, внедренной системе типов, где ОС (если есть) не будет мешать вам.
Но как измерить время считывания данных один раз? Это так мало и может быть всего несколько нс! – Sayakiss
Делая это достаточно времени. Вы должны иметь возможность получить счет в миллисекунду. Тем не менее, я не сказал, что это будет легко :) –
Но после этого один раз, он может быть загружен в кеш (предположим, что не раньше). – Sayakiss
Взгляните на cachegrind-valgrind:
похожий на Cachegrind имитирует, как программа взаимодействует с кэш- иерархией машины и (необязательно) филиалом предсказателем. Он имитирует машину с независимыми инструкциями первого уровня и кэшами данных (I1 и D1), , поддерживаемыми унифицированным кэшем второго уровня (L2). Это точно соответствует конфигурации многих современных машин.
См Теза хороших вопросы, они какие-то образом связанные с:
Ах, эмуляция может быть лучшим вариантом, если качество эмуляции достаточно хорошее. Хорошая идея. –
Возможно ли это? Кэши не находятся под вашим контролем, у вас нет возможности узнать, откуда загружаются данные. (Ладно, может быть, вы могли бы пропустить промахи в кеше, но я предполагаю, что трассировка накладных расходов приведет к смещению результатов.) – millimoose
возможно использовать регистры и mmap? Но это кажется очень субъективным (кроме этого есть другие процессы, запущенные на компьютере). Похоже на то, что должно быть сделано на аппаратном уровне; в противном случае другие потоки/процессы/OS-материал окажутся на пути – cegfault
Насколько я могу судить, если я определяю большой массив в C, когда я обращаюсь к элементу этого массива, данные вокруг этого элемента, похоже, хранятся в кэш. Поэтому, если я получаю доступ к массиву от начала до конца, он будет быстрее, чем случайный доступ (доступ к каждому элементу один раз) --- это правда, но я не знаю, что это результат путем кэширования или чего-то еще. – Sayakiss