Я новичок в теме нейронных сетей. Я натолкнулся на два термина: сверточная нейронная сеть и рекуррентная нейронная сеть.В чем разница между сверточными и рекуррентными нейронными сетями?
Мне интересно, относятся ли эти два термина к одному и тому же, или, если нет, в чем разница между ними?
Эти архитектуры совершенно разные, поэтому довольно сложно сказать «какая разница», поскольку единственное, что является общим, это тот факт, что они оба являются нейронными сетями.
Convolutional networks - это сети с перекрывающимися «полями приема», выполняющие задачи свертки.
Recurrent networks являются сети с повторяющимися связями (идущих в противоположном направлении «нормального» прохождения сигнала), которые образуют циклы в топологии сети.
Сверточные нейронные сети (CNN) для компьютерного зрения и рекуррентные нейронные сети (RNN) для обработки естественного языка.
Хотя это может быть применено в других областях, RNN имеют преимущество сетей, которые могут иметь сигналы, движущиеся в обоих направлениях, путем введения петель в сети.
Системы обратной связи являются мощными и могут стать чрезвычайно сложными. Вычисления, полученные из предыдущего ввода, возвращаются в сеть, что дает им некоторую память. Сети обратной связи динамичны: их состояние непрерывно меняется, пока не достигнет точки равновесия.
RNN определенно не ограничивается обработкой естественного языка, хотя это поле, где оно было впервые использовано. Это главным образом (но не только) - на данный момент - для последовательностей. – rkellerm
Сверточные нейронные сети (CNN) предназначены для распознавания изображений. Он имеет свертки внутри, которые видят края объекта, распознанного на изображении. Рекуррентные нейронные сети (RNN) предназначены для распознавания последовательностей, например речевого сигнала или текста. Рекуррентная сеть имеет циклы внутри, что подразумевает наличие короткой памяти в сети. Мы применили CNN, а также РНН выбирая соответствующий алгоритм машинного обучения для классификации ЭЭГ сигналов для BCI: http://rnd.azoft.com/classification-eeg-signals-brain-computer-interface/
Очевидно, я немного поздно, но я хотел бы отметить всех, кто заинтересован в нейронных сетей для this article. Он не только объясняет основы достаточно хорошо, но также дает вам оригинальные документы, если вы хотите копать глубже, обращаясь ко всем наиболее распространенным архитектурам Neural Net сегодня.
ice.cube ответил очень хорошо в отношении основных видов использования каждого
Разница между CNN и RNN заключаются в следующем:
CNN занимает входы фиксированного размера и генерирует фиксированное -размерные выходы.
CNN - это тип искусственной нейронной сети с подачей вперед - это вариации многослойных персептронов, которые предназначены для использования минимальных объемов предварительной обработки.
CNN используют схему связи между нейронами и вдохновляются организацией зрительной коры животного, индивидуальные нейроны которой устроены таким образом, что они реагируют на перекрывающиеся области, облицовывающие поле зрения.
CNN идеально подходят для обработки изображений и видео.
РНН может обрабатывать произвольные длины ввода/вывода.
RNN в отличие от родственных нейронных сетей - может использовать свою внутреннюю память для обработки произвольных последовательностей входов.
Периодические нейронные сети используют информацию о временных рядах. то, что я говорил в последний раз, повлияет на то, что я буду говорить дальше.
RNN идеально подходят для анализа текста и речи.
https://datascience.stackexchange.com/a/18655/10640 – nbro
Во-первых, нам нужно знать, что рекурсивный NN отличается от повторяющегося NN. По определению вики,
Blockquote
Рекурсивный нейронная сеть (РНН) является своего рода глубокой нейронной сети, созданной с применением того же набора веса рекурсивно по структуре
Blockquote
В этом смысле CNN является типом рекурсивного NN. С другой стороны, повторяющийся NN является типом рекурсивного NN, основанного на разнице во времени. Поэтому, на мой взгляд, CNN и повторяющиеся NN различны, но оба они получены из рекурсивного NN.
Помимо других, в CNN мы обычно используем 2d квадратное скользящее окно вдоль оси и свернутое (с исходным вводом 2d-изображение) для идентификации узоров.
В RNN мы используем ранее рассчитанную память. Если вас это интересует, вы можете увидеть LSTM (Long Short-Term Memory), который является особым видом RNN.
И CNN, и RNN имеют одну общую точку, поскольку они обнаруживают шаблоны и последовательности, то есть вы не можете перетасовывать свои одиночные биты входных данных.
Важным моментом будет то, где они используются, какие проблемы имеют преимущество у другого. – ozgur