выбрать скорость обучения в нейронной сети

Question

Я построил нейронную сеть. В шаге веса обновления средняя quadratiqur ошибка идет непосредственно к 0, например

mean error quadratic 1 = 1.2 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 
mean error quadratic 1 = 0 .................... 

Я не знаю, что это проблема

размер моей neual сети:

вход = 324 * 540 мишень = 10 * 540

, когда я пытаюсь с другими данными с этим размером

вход = 81 * 540 target = 10 * 540

это работает.

Возможно, проблема в скорости обучения?

Answer 1

Это звучит как проблема со среднеквадратичным калькулятором.

nn не мог сменить этот быстрый (как вы знаете), и проблема с nn, вероятно, вызовет ошибку. Исключением было бы, если nn будет округлено до чисел, которые выдают выходы, соответствующие вашему конкретному образцу (если ответ равен 0, а все веса округлены до 0).

В принципе, я подозреваю, что это связано с небольшим набором данных выборки или проблемой со средним квадратичным калькулятором ошибок.

Надеюсь, это поможет!