TensorFlow LSTM Generative Model

Question

Я работаю над учебным пособием по языковой модели LSTM discussed here.

С языковыми моделями обычно используется модель для создания нового предложения с нуля после обучения (т. Е. Образец из модели).

Я новичок в TensorFlow, но я пытаюсь использовать свою обученную модель для генерации новых слов до маркера конца предложения.

Моя первая попытка:

x = tf.zeros_like(m.input_data) 
state = m.initial_state.eval() 
for step in xrange(m.num_steps): 
    state = session.run(m.final_state, 
           {m.input_data: x, 
           m.initial_state: state}) 
    x = state 

Он с ошибкой:

ValueError: setting an array element with a sequence.

Answer 1

Проблема здесь, кажется, m.input_data: x отображение в feed_dict прошло session.run(). В этом случае TensorFlow ожидает, что x представляет собой массив numpy (или некоторый объект, который может быть неявно преобразован в массив numpy), но это значение TensorFlow Tensor (результат tf.zeros_like()).

К счастью, решение прост. Заменить x = tf.zeros_like(m.input_data) следующим:

x = tf.zeros_like(m.input_data).eval() 

... который гарантирует, что x преобразуется в Numpy массив.

(Обратите внимание, что более прямой путь для достижения этой цели было бы построить начальную x как Numpy массив соответствующего размера.)