word2vec_basic не работает (Tensorflow)

Question

Я новичок в word-embedding и Tensorflow. Я работаю над проектом, где мне нужно применить word2vec к данным о состоянии здоровья.
Я использовал код для сайта Tensorflow (word2vec_basic.py). Я изменил немного этот код, чтобы сделать его прочитать мои данные вместо «text8.zip» и она работает нормально до последнего шага:

num_steps = 100001 

with tf.Session(graph=graph) as session: 
# We must initialize all variables before we use them. 
    tf.initialize_all_variables().run() 
    print('Initialized') 
    average_loss = 0 
    for step in range(num_steps): 
    batch_data, batch_labels = generate_batch(
     batch_size, num_skips, skip_window) 
    feed_dict = {train_dataset : batch_data, train_labels : batch_labels} 
    _, l = session.run([optimizer, loss], feed_dict=feed_dict) 
    average_loss += l 
    if step % 2000 == 0: 
     if step > 0: 
     average_loss = average_loss/2000 
     # The average loss is an estimate of the loss over the last 2000 batches. 
     print('Average loss at step %d: %f' % (step, average_loss)) 
     average_loss = 0 
    # note that this is expensive (~20% slowdown if computed every 500 steps) 
    if step % 10000 == 0: 
    sim = similarity.eval() 
    for i in range(valid_size): 
     valid_word = reverse_dictionary[valid_examples[i]] 
     top_k = 8 # number of nearest neighbors 
     nearest = (-sim[i, :]).argsort()[1:top_k+1] 
     log = 'Nearest to %s:' % valid_word 
     for k in range(top_k): 
     close_word = reverse_dictionary[nearest[k]] 
     log = '%s %s,' % (log, close_word) 
     print(log) 
    final_embeddings = normalized_embeddings.eval()<code> 

Этот код является точно такой же, как пример, так что я не думаю, это неверно. ошибка Она дала это:

---

KeyError         Traceback (most recent call last) 
<ipython-input-20-fc4c5c915fc6> in <module>() 
    34   for k in xrange(top_k): 
    35   print(nearest[k]) 
---> 36   close_word = reverse_dictionary[nearest[k]] 
    37   log_str = "%s %s," % (log_str, close_word) 
    38   print(log_str) 

KeyError: 2868 

Я изменил размер входных данных, но она по-прежнему дает ту же ошибку.
Я был бы очень признателен, если бы кто-нибудь мог дать мне совет о том, как исправить эту проблему.

Answer 1

Если размер словаря меньше максимального по умолчанию (50000), вы должны изменить его.

На последнем шаге 2, давайте изменим словарный запас словаря до фактического размера словаря.

data, count, dictionary, reverse_dictionary = build_dataset(words) 
del words # Hint to reduce memory. 
print('Most common words (+UNK)', count[:5]) 
print('Sample data', data[:10], [reverse_dictionary[i] for i in data[:10]]) 

#add this line to modify 
vocabulary_size = len(dictionary) 
print('Dictionary size', len(dictionary))