Функция аппроксимации нейронной сети

Question

Я пытаюсь проверить эффективность нейронных сетей как функции аппроксимации.

Функция, которую мне нужно приблизить, имеет 5 входов и 1 выход, какую структуру использовать?

Я понятия не имею, какие критерии следует применять для определения количества Скрытого слоя и количества узлов для каждого слоя.

Спасибо заранее, С уважением

Джузеппе.

Answer 1

Я всегда использую один скрытый слой. Теоретически нет функций, которые могут быть аппроксимированы двумя или более скрытыми слоями, которые не могут быть приближены к одному. Чтобы сделать один скрытый слой более сложным, добавьте больше скрытых узлов.

Как правило, количество скрытых узлов варьируется, чтобы наблюдать влияние на производительность модели (измеряемое с помощью точности или любого другого). Слишком мало скрытых узлов приводит к худшему подходу из-за недофинансирования (функция вывода нейронной сети слишком проста и пропускает важные данные в данных). Слишком много скрытых узлов приводит к худшему подходу из-за переобучения (нейронная сеть становится настолько гибкой, что преследует каждый бит шума в данных).

Answer 2

Обратите внимание, что для задач классификации вам нужно как минимум 2 скрытых слоя, если вы хотите отделить вогнутые многоугольники.

Я не уверен, как количество скрытых слоев влияет на приближение функции.