В сверточной сети (CNN) кто-то ответил мне, что фильтры инициализируются случайным образом.Что узнано в сверточной сети
Я в порядке, но, когда есть градиентный спуск, кто учится? Карты функций или фильтры? Моя интуиция - это фильтры, которые учатся, потому что им нужно распознавать сложные вещи. Но я хотел бы быть уверенным в этом.
В контексте сверточных нейронных сетей ядро = фильтр = детектор признаков.
Вот отличная иллюстрация от Stanford's deep learning tutorial (также красиво объясняется Denny Britz).
Фильтр желтым скользящее окно, и его значение:
Карта особенности является розовой матрицей. Его значение зависит как от фильтра, так и от изображения: в результате нет смысла изучать карту объектов. Только фильтр узнается, когда сеть обучена. В сети также могут быть обучены другие веса.
Большое спасибо за объяснение! Теперь это имеет смысл! :) Последний вопрос, когда у нас есть выход из conv-слоя, скажем, 3 карты функций. И мы помещаем рядом с ним другой conv-слой с тремя ядрами. Выход будет 3 или 9 карт функций? Точнее, карта 3-х функций первого уровня будет конкатенирована так или иначе, чтобы быть обработана следующим уровнем conv, или все карты функций первых отправляются на следующий conv, как 3 новых изображения? –
О, и почему на первых слоях фильтры чаще всего извлекают функции генератора, чем последние? –
Как сказал алею, взвешиваются фильтры. Карты функций - это выходы сверточных слоев. Помимо сверточных весов фильтра, также имеются веса полностью связанных (и других типов) слоев.
сеть, состоящая из разных ядер. где каждый из них имеет параметры w и b. GD применяют вычисления значений сдвига в этих параметрах таким образом, чтобы уменьшить ошибку. – Feras
Карты функций - это выходы ваших фильтров/ядер при применении их к входам (изображения/карты объектов) и, следовательно, невозможно узнать. Можно узнать только параметры (фильтров) для преобразования входных данных на выходы. – aleju
Возможно, вы захотите прочитать страницы 3-10 [моей магистерской диссертации] (https://arxiv.org/pdf/1707.09725.pdf#page=17). Особенно цифра 6. –