Я хочу реализовать сеть персептрона, и у меня есть небольшая проблема. Первая реализация будет очень простой. Всего три слоя, вход, один скрытый и выходной слой. Моя проблема заключается в том, что количество синапсов оптимально для скрытого узла через входной и скрытый слои? Я считаю, что это не слишком экономично, если каждый узел присоединяется ко всем входным узлам.Сколько синапсов на узел мне нужно?
Спасибо за комментарии.
В самой общей настройке вы подключаете каждый узел данного слоя к каждому узлу в следующем. Это называется «полностью связанным слоем». Очевидно, что это не единственный вариант, и с более продвинутыми подходами вы найдете гораздо более разреженные соединения, такие как восприимчивые поля, cvonolutional layer и т. Д. Для простых экспериментов предпочтительнее начинать с полностью связанных слоев, поскольку другие стратегии соединения обычно принимают что-то о ваши данные (например, пространственно-временные отношения входов), а полностью связанный уровень - это агностический, общий подход.
Обычно каждый вход подключается к каждому скрытому узлу. –
Большое спасибо. –