Я хочу использовать this article для построения нейронной сети, но я встречаю некоторые проблемы с алгоритмом обновления весовых векторов. В частности, с формулами marked red. Может кто-нибудь помочь мне понять, что такое hm (i) и символ «|» означает?Обратное распространение для обучения нейронных сетей
Это выглядит как вычисление back-propagation для градиента ошибки обучения нейронной сети. Bishop (на странице 244) перечисляет ключевую формулу, как:
δj = h'(aj) SUM(k, wkj δk)
δ являются ошибками между предсказанными и маркированными значениями скрытых или выходными узлами. Коэффициенты δ с правой стороны уже рассчитаны и соответствуют следующему уровню вывода вывода из рассматриваемого объекта.
h' термин является производной от нелинейного activation function, который обычно sigmoid function или tanh. Перечисленные ниже hm на вашем изображении похожи на производную от tanh с заменой переменных.
Вертикальная панель - это синтаксис для оценки: f(t) = f(x) | t. Я не могу сказать, каково выражение в вашем изображении; Я могу ошибаться.