параллельная обработка нескольких оценок последовательной задачи на большом наборе данных - задача для вычисления графических процессоров?

Question

Я работаю над некоторым кодом обработки сигналов в SciPy, и теперь я пытаюсь использовать численный оптимизатор для его настройки. К сожалению, по мере того, как все это происходит, это довольно медленный процесс.

операций я должен выполнить для этой оптимизации являются следующие:

• Загрузка большого файла 1-D данных (~ 120000 баллов)
• Run оптимизатора, который:
  • выполняет сигнал обработки, не изменяет исходные данные, производит 120000 новых точек данных.
  • Рассматривает разницу между исходным сигналом и сигналом с использованием нового различные операции,
    • Один из которых включает в себя БПФ на основе свертки
    • генерирует одно значение «ошибка», чтобы суммировать результат - это то, что должно быть сведено к минимуму
  • смотрит на ошибки и повторно пробегов работы с различными параметрами

Функции обработки сигналов и ошибок выполняются менее 3 секунд, но, к сожалению, 50 000 раз занимают гораздо больше времени. Я экспериментирую с различными более эффективными алгоритмами оптимизации, но независимо от того, что это займет тысячи итераций.

Я распараллеливал пару оптимизаторов, которые я пытаюсь использовать потоки ЦП, что было не слишком сложно, так как оптимизатор может легко выполнять несколько запланированных запусков сразу по отдельным потокам с использованием ThreadPool.map.

Но это всего лишь ускорение 2x на моем ноутбуке или, возможно, 8x на многоядерном компьютере. Мой вопрос в том, является ли это приложением, для которого я мог бы использовать обработку GPU? Я уже перевел некоторые части кода на C, и я мог представить, используя OpenCL для создания функции из массива параметров в массив значений ошибок и запускать это сотни раз одновременно. - Даже если он медленно выполняет секвенциальную обработку, получение всех результатов одним выстрелом будет потрясающим.

Однако я предполагаю, что требования к памяти (загрузка большого файла и создание временного одного из равных размеров для генерации каждой точки данных) затруднят выполнение всего алгоритма в ядре OpenCL. У меня нет большого опыта работы с обработкой графических процессоров и написанием кода CUDA/OpenCL, поэтому я не хочу приступать к обучению входы и выходы, если нет надежды на то, чтобы он работал.

Любые советы?

Answer 1

Вам нужно произвести все 120 000 новых очков, прежде чем анализировать разницу? Не могли бы вы рассчитать новую точку, а затем решить, если вы сходитесь?

Насколько велики баллы? Графическая карта стоимостью 50 долларов сегодня имеет 1 ГБ памяти - должно быть достаточно для 120 тыс. Точек. Я не так хорошо знаком с openCL, как Cuda, но также могут быть ограничения на то, насколько это является памятью текстур и общей памятью и т. Д.

Редактирование: Более знакомы с CUDA, чем OpenCL, но это, вероятно, относится к обоим.
Память на графических процессорах немного сложнее, но очень гибкая, у вас есть текстурная память, которая может быть прочитана ядром графического процессора и имеет очень умные функции кеша, чтобы очень быстро получить доступ к значениям в массивах 2d и 3d. Существует память openGL, которую вы можете записать для отображения, и существует ограниченный (16-64k?) Кеш на поток

Хотя передача из основной памяти на графический процессор относительно медленная (несколько ГБ/с) внутренняя память на графической карте 20x, так быстро, как это