Развертывание приложения Tensorflow на стороне клиента

Question

В настоящее время я разрабатываю модель прогнозирования с использованием Tensorflow, и моя модель хорошо работает для клиента, поэтому я стараюсь сделать ее как настоящий продукт.

Мою модель необходимо переучивать с использованием входных данных клиента с течением времени, и ее следует развертывать в инфраструктуре клиентов. (Не SaaS или облако.) Кроме того, я хотел бы защитить свои коды и модели.

Из моего понимания Tensorflow, обученная модель может быть экспортирована как protobuf, замороженные и удерживаемые узлы, которые требуются для прогнозирования. freeze_graph.py at Tensorflow repo, Я попробовал, и я успешно выполнил мою модель прогнозирования, используя Golang + libtensorflow.so runtime. (Или, я мог бы использовать Tensorflow Serving & C++)

Если я смогу обучить свою модель в инфракрасной области нашей компании, я мог бы сказать: «Ладно, давайте немного пива». Тем не менее, моя модель должна быть обучена на стороне клиента, и без кода python кажется, что я не могу обучать свою модель.

https://www.tensorflow.org/versions/r0.12/how_tos/language_bindings/index.html

В это время, поддержка градиентов, функций и операций потока управления («если» и «пока») не доступна в других, чем Python языках. Это будет обновляться, когда C API предоставит необходимую поддержку.

Есть ли временное решение для развертывания приложения TF без отображения кода или модели python? Заранее спасибо.

Answer 1

Вы все еще можете использовать Python с предварительно обученной моделью, не подвергая весь код, необходимый для его создания. В качестве примера рассмотрим код начальной перегрузки, который загружает предварительно обработанный GraphDef и затем перенастраивает новый верхний слой: https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/image_retraining/retrain.py