Тенденция об ошибках нейронной сети

Question

Я относительно новичок в нейронных сетях, поэтому мне было очень интересно, когда я столкнулся с этой тенденцией в своих данных. У меня есть многослойная сеть персептрона, использующая обратное распространение без импульса. Скорость обучения составляет 0,02, а минимальная допустимая погрешность при обучении равна 0,01. Сеть должна была научиться правильно применять операцию xor по двум логическим значениям (их значения равны 1 или 0). Есть предвзятые нейроны, чтобы противостоять тому, что проблема xor не имеет линейной разделимости (не уверен, правильно ли я сформулировал это). Нейроны сети используют передаточную функцию Sigmoid. Мне было интересно, почему график растет в этой тенденции. После рандомизации весов сети и повторного обучения, график всегда отображается так. Почему это?

Answer 1

Для меня это выглядит правильно, и, возможно, вы просто неправильно читаете график. На оси х у вас есть итерации. Вы можете считать это осью времени для упрощения. Ваша ось y - это ошибка сети (чем ниже, тем лучше). Так как время прогрессирует во время обучения, ваша сеть дает лучшие результаты (с более низкой ошибкой).