Как свести к минимуму две потери с помощью TensorFlow?

Question

Я работаю над проектом, который заключается в локализации объекта в изображении. Метод, который я собираюсь принять, основан на алгоритме локализации в CS231n-8.

Структура сети имеет две головки оптимизации, головку классификации и регрессионную головку. Как я могу свести их к минимуму при обучении сети?

У меня есть одна идея, которая суммирует оба из них в одну потерю. Но проблема заключается в потере классификации: потеря softmax и потеря регрессии - потеря l2, что означает, что они имеют различный диапазон. Я не думаю, что это лучший способ.

Answer 1

Это зависит от статуса вашей сети.

Если ваша сеть просто способна извлекать функции [вы используете весы, хранящиеся в какой-либо другой сети], вы можете установить эти веса как константы, а затем отдельно подготовить две главы классификации, поскольку градиент не будет проходить через корыто константы.

Если вы не используете вес из заранее подготовленных модели, вы

1. должно обучить сеть для извлечения функции: таким образом обучить сеть с использованием головки классификации и пусть поток градиента от классификации направляйте к первому сверточному фильтру. Таким образом, ваша сеть теперь может классифицировать объекты, объединяющие извлеченные функции.
2. Преобразуйте в постоянные тензоры изученные веса сверточных фильтров и классификационную головку и подготовьте регрессионную головку.

Регрессионная головка научится совмещать функции, извлеченные из сверточного слоя, адаптируя его параметры, чтобы минимизировать потери L2.

Tl; др:

1. Поезд сеть для классификации первой.
2. Преобразование каждого полученного параметра в постоянный тензор, используя graph_util.convert_variables_to_constants, как показано в сценарии 'freeze_graph`.
3. Поезд регрессионной головки.