TensorFlow: Помните состояние LSTM для следующей партии (stateful LSTM)

Question

Учитывая подготовленную модель LSTM, я хочу выполнить вывод для одиночных временных меток, то есть seq_length = 1 в приведенном ниже примере. После каждого временного времени внутренние LSTM (память и скрытые) состояния должны запоминаться для следующей «партии». В самом начале вывода вычисляются внутренние состояния LSTM init_c, init_h с учетом ввода. Затем они сохраняются в объекте LSTMStateTuple, который передается в LSTM. Во время обучения это состояние обновляется каждый раз. Однако для вывода я хочу, чтобы state сохранялся между партиями, т. Е. Начальные состояния нужно было вычислить только в самом начале, после чего состояния LSTM должны сохраняться после каждой «партии» (n = 1).

Я нашел этот связанный вопрос StackOverflow: Tensorflow, best way to save state in RNNs?. Однако это работает только в том случае, если state_is_tuple=False, но это поведение скоро будет отменено TensorFlow (см. rnn_cell.py). У Keras, похоже, есть хорошая обертка, чтобы сделать stateful LSTM возможно, но я не знаю, как это сделать в TensorFlow. Эта проблема на TensorFlow GitHub также связана с моим вопросом: https://github.com/tensorflow/tensorflow/issues/2838

Любые хорошие предложения по созданию модели LSTM с состоянием?

inputs = tf.placeholder(tf.float32, shape=[None, seq_length, 84, 84], name="inputs") 
targets = tf.placeholder(tf.float32, shape=[None, seq_length], name="targets") 

num_lstm_layers = 2 

with tf.variable_scope("LSTM") as scope: 

    lstm_cell = tf.nn.rnn_cell.LSTMCell(512, initializer=initializer, state_is_tuple=True) 
    self.lstm = tf.nn.rnn_cell.MultiRNNCell([lstm_cell] * num_lstm_layers, state_is_tuple=True) 

    init_c = # compute initial LSTM memory state using contents in placeholder 'inputs' 
    init_h = # compute initial LSTM hidden state using contents in placeholder 'inputs' 
    self.state = [tf.nn.rnn_cell.LSTMStateTuple(init_c, init_h)] * num_lstm_layers 

    outputs = [] 

    for step in range(seq_length): 

     if step != 0: 
      scope.reuse_variables() 

     # CNN features, as input for LSTM 
     x_t = # ... 

     # LSTM step through time 
     output, self.state = self.lstm(x_t, self.state) 
     outputs.append(output) 

Answer 1

Я узнал, что было легче всего сохранить все состояние для всех слоев в заполнителе.

init_state = np.zeros((num_layers, 2, batch_size, state_size)) 

... 

state_placeholder = tf.placeholder(tf.float32, [num_layers, 2, batch_size, state_size]) 

Затем распаковать его и создать кортеж LSTMStateTuples перед использованием родной tensorflow РНН Апи.

l = tf.unpack(state_placeholder, axis=0) 
rnn_tuple_state = tuple(
[tf.nn.rnn_cell.LSTMStateTuple(l[idx][0], l[idx][1]) 
for idx in range(num_layers)] 
) 

РНН проходит в API:

cell = tf.nn.rnn_cell.LSTMCell(state_size, state_is_tuple=True) 
cell = tf.nn.rnn_cell.MultiRNNCell([cell]*num_layers, state_is_tuple=True) 
outputs, state = tf.nn.dynamic_rnn(cell, x_input_batch, initial_state=rnn_tuple_state) 

state - переменная затем будет Feeded к следующей партии в качестве заполнителя.

Answer 2

Tensorflow, лучший способ сохранить состояние в RNN? был на самом деле мой первоначальный вопрос. Ниже приведен код, как я использую кортежи состояний.

with tf.variable_scope('decoder') as scope: 
    rnn_cell = tf.nn.rnn_cell.MultiRNNCell \ 
    ([ 
     tf.nn.rnn_cell.LSTMCell(512, num_proj = 256, state_is_tuple = True), 
     tf.nn.rnn_cell.LSTMCell(512, num_proj = WORD_VEC_SIZE, state_is_tuple = True) 
    ], state_is_tuple = True) 

    state = [[tf.zeros((BATCH_SIZE, sz)) for sz in sz_outer] for sz_outer in rnn_cell.state_size] 

    for t in range(TIME_STEPS): 
     if t: 
      last = y_[t - 1] if TRAINING else y[t - 1] 
     else: 
      last = tf.zeros((BATCH_SIZE, WORD_VEC_SIZE)) 

     y[t] = tf.concat(1, (y[t], last)) 
     y[t], state = rnn_cell(y[t], state) 

     scope.reuse_variables() 

Вместо использования tf.nn.rnn_cell.LSTMStateTuple я просто создать списки списков, который работает отлично. В этом примере я не сохраняю состояние. Однако вы можете легко сделать состояние вне переменных и просто использовать назначение для сохранения значений.