Привязка нейронной сети

Question

Я строю нервную сеть с прямой передачей, и я пытаюсь решить, как реализовать предвзятость. Я не уверен в двух вещах:

1) Есть ли недостаток в реализации смещения в качестве признака узла в отличие от фиктивного ввода + веса?

2) Если я реализую его как фиктивный вход, будет ли он вводиться только на первом уровне (от ввода до скрытого слоя), или мне нужен фиктивный ввод в каждом слое?

Спасибо!

P.S. В настоящее время я использую 2d массивы для представления весов между слоями. Любые идеи для других структур реализации? Это не мой главный вопрос, просто ищет пищу для размышлений.

Answer 1

1. Реализация не имеет значения, если поведение является правильным.

2. Да, это необходимо в каждом слое.

3. 2-й массив - это путь.

Я хотел бы предложить включить смещение в качестве еще одного нейрона с постоянным входом 1. Это позволит сделать его проще реализовать - не нужна специальная переменная для нее или что-нибудь подобное.