Преобразование модели Keras в TensorFlow protobuf

Question

В настоящее время мы обучаем различные нейронные сети с использованием Keras, что идеально, потому что оно имеет приятный интерфейс и относительно прост в использовании, но мы хотели бы иметь возможность применять их в нашей продукции Окружающая среда.

К сожалению, производственная среда является C++, так что наш план заключается в следующем:

• Используйте TensorFlow бэкенд, чтобы сохранить модель в Protobuf
• Link наша продукция код TensorFlow, а затем загрузить в Protobuf

К сожалению, я не знаю, как получить доступ к утилитам экономии TensorFlow от Keras, которые обычно сохраняются в HDF5 и JSON. Как сохранить в protobuf?

Answer 1

Вы можете получить доступ к TensorFlow бэкенд по:

import keras.backend.tensorflow_backend as K 

Затем вы можете вызвать любую утилиту TensorFlow или функции, как:

K.tf.ConfigProto 

Answer 2

Это, кажется, ответил "Keras as a simplified interface to TensorFlow: tutorial", размещенном на Keras Блог автор: Francois Chollet.

В частности, section II, "Using Keras models with TensorFlow".

Answer 3

Сохраните модель keras как файл HDF5.

Вы можете выполнить преобразование с помощью следующего кода:

from keras import backend as K 
from tensorflow.python.framework import graph_util 
from tensorflow.python.framework import graph_io 

weight_file_path = 'path to your keras model' 
net_model = load_model(weight_file_path) 
sess = K.get_session() 

constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph.as_graph_def(), 'name of the output tensor') 
graph_io.write_graph(constant_graph, 'output_folder_path', 'output.pb', as_text=False) 
print('saved the constant graph (ready for inference) at: ', osp.join('output_folder_path', 'output.pb')) 

Вот мой пример кода, который обрабатывает несколько входных и несколько случаев выхода: https://github.com/amir-abdi/keras_to_tensorflow

Answer 4

В случае, если не нужно используйте графический процессор в среде, в которую вы развертываете, вы также можете использовать мою библиотеку, называемую экономно. Он доступен на GitHub и опубликован в соответствии с лицензией MIT: https://github.com/Dobiasd/frugally-deep

Сберегательно-глубокий позволяет запускать переходы на уже обученные модели Keras непосредственно на C++ без необходимости связывания с TensorFlow или любым другим сервером.