Как наблюдать события и показатели CUDA для подраздела исполняемого файла (например, только во время выполнения ядра)?

Question

Я знаком с использованием nvprof для доступа событий и метрик ориентира, например,

nvprof --system-profiling on --print-gpu-trace -o (file name) --events inst_issued1 ./benchmarkname 

Команда

system-profiling on --print-gpu-trace -o (filename)  

дает временные метки для времени начала, окончания ядра раз, мощность, темп и сохраняет информацию в файлах nvvp, чтобы мы могли просматривать их в визуальном профилировщике. Это позволяет нам видеть, что происходит в любом разделе кода, в частности, когда выполняется определенное ядро. Мой вопрос таков:

Есть ли способ изолировать события, подсчитанные только для части контрольного прогона, например, во время выполнения ядра? В приведенной выше команде

--events inst_issued1  

только дает инструкции, рассчитанные на весь исполняемый файл. Благодаря!

Answer 1

Посмотрев на это немного больше, то получается, что информация на уровне ядра также дается для всех ядер (без использования --kernels и с указанием их специально) с помощью

nvprof --events <event names> --metrics <metric names> ./<cuda benchmark> 

На самом деле, это дает выходные формы

«Device», «ядро», «заклинания», «Имя события», «Min», «Max», «Средний»

Если ядро ​​называется несколько раз в тесте , это позволяет вам видеть Min, Max, Avg из желаемых событий для запуска этих ядер s. Очевидно, что опция --kernels на Cuda 7.5 Profiler позволяет указать каждый запуск каждого ядра.

Answer 2

Возможно, вы захотите прочитать profiler documentation.

Вы можете включить и выключить профилирование в пределах исполняемого файла. CUDA выполнения API для этого:

cudaProfilerStart() 
cudaProfilerStop() 

Итак, если вы хотите, чтобы собрать информацию о профиле только для конкретного ядра, вы могли бы сделать:

#include <cuda_profiler_api.h> 
... 

cudaProfilerStart(); 
myKernel<<<...>>>(...); 
cudaProfilerStop(); 

и excerpting из документации:

При использовании функций запуска и останова вам также необходимо проинструктировать инструмент профилирования, чтобы отключить профилирование в начале приложения. Для nvprof вы делаете это с флагом -profile-from-start off. Для Visual Profiler вы используете флажок «Начать выполнение с включенным профилированием» в окне «Настройки».

Кроме того, из the documentation для nvprof конкретно, вы можете ограничить событие/метрическое подведение к одному ядру с помощью параметра командной строки:

--kernels <kernel name> 

документации дает дополнительные возможности использования.