Классификация с прямой сетью в Matlab странные результаты?

Question

Я провел некоторые классификационные тесты в Matlab с помощью прямой сети. Используя стандартную функцию tansig, результаты были лучше при использовании большего количества нейронов на скрытом слое. Но, когда я переключился на pure lin, я был удивлен, увидев, что результаты были лучше, когда я устанавливал меньшее количество нейронов на скрытом слое. Можете ли вы помочь мне с аргументом в этой ситуации?

Answer 1

Функция активации tansig по существу делает возможным, чем нейрон становится неактивным из-за насыщения. Линейный нейрон всегда активен. Поэтому, если один линейный нейрон имеет плохие параметры, он всегда будет влиять на результат классификации. Более высокое число нейронов дает более высокую вероятность плохого поведения в этом сценарии.