Ошибка TensorFlow: логины и метки должны быть одинакового размера

Question

Я пытаюсь изучить TensorFlow, внедряя ApproximatelyAlexNet на основе различных примеров в Интернете. В основном расширяя пример AlexNet here, чтобы получить 224x224 RGB-изображения (а не 28x28 изображений в оттенках серого) и добавили еще несколько слоев, изменив размеры ядра, шаги и т. Д. На другие реализованные в AlexNet реализации, которые я нашел в Интернете.

Работали через ряд несогласованных ошибок типа формы, но это один имеет меня в тупик:

tensorflow.python.framework.errors.InvalidArgumentError: logits and labels must be same size: logits_size=dim { size: 49 } dim { size: 10 } labels_size=dim { size: 1 } dim { size: 10 } 
    [[Node: SoftmaxCrossEntropyWithLogits = SoftmaxCrossEntropyWithLogits[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/gpu:0"](Softmax, _recv_Placeholder_1_0/_13)]] 
    [[Node: gradients/Mean_grad/range_1/_17 = _Recv[client_terminated=false, recv_device="/job:localhost/replica:0/task:0/cpu:0", send_device="/job:localhost/replica:0/task:0/gpu:0", send_device_incarnation=1, tensor_name="edge_457_gradients/Mean_grad/range_1", tensor_type=DT_INT32, _device="/job:localhost/replica:0/task:0/cpu:0"]()]] 

49 размер особенно озадачивает. Для отладки, мой размер партии в настоящее время 1, если увеличить его до 2, то 49 будет 98.

Если я вхожу в форму х и у, что я прохожу в

sess.run(optimizer, feed_dict={x: batchImages, y: batchLabels, keepProb: P_DROPOUT}) 

я получаю

x shape: (1, 150528) 
y shape: (1, 10) 

Это как ожидалось: 150528 = 224 * 224 RGB пикселей и один горячий вектор, представляющий мои метки.

Поблагодарили бы за помощь в определении этого!

Update: код экспонирование ошибки здесь:

https://gist.github.com/j4m3z0r/e70096d0f7bd4bd24c42

Answer 1

Спасибо, что поделились своим кодом как Gist. Есть два изменения, которые необходимы, чтобы сделать формы соглашаются:

1. Линия:

   fc1 = tf.reshape(pool5, [-1, wd1Shape[0]]) 
   

   ... отвечает за в пакетном измерении ошибочных 49.Вход 1 х 7 х 7 х 256, и она будет изменена, чтобы 49 х 256, потому что wd1Shape[0] 256. Одним из возможных замена заключается в следующем:

   pool5Shape = pool5.get_shape().as_list() 
   fc1 = tf.reshape(pool5, [-1, pool5Shape[1] * pool5Shape[2] * pool5Shape[3]]) 
   

   ... который даст fc1 форму 1 x 12544.

2. После внесения этого изменения размер весовой матрицы 'wd1' (256 x 4096) не соответствует количеству узлов в fc1. Вы можете изменить определение этой матрицы следующим образом:

   'wd1': tf.Variable(tf.random_normal([12544, 4096])), 
   

   ... хотя вы можете изменить другие веса, или выполнить дополнительные пулы, чтобы уменьшить размер этой матрицы.

Answer 2

Учитывая, что вы не предоставили фактический код, который вы используете его трудно точно сказать, что это неправильно.

Вот некоторые общие советы для отладки таких проблем:

• Добавить print(tensor.get_shape()) в местах, связанных с проблемой (в вашем случае dense2, из, _weights [ «из»], _biases [ «из» ] являются подозреваемыми).

• Убедитесь, что ваши умножения матрицы находятся в правильном порядке (например, dense2 by _weights ['out'], должны приводить к матрице batch_size x 10).

Если вы изменили код в AlexNet вы связаны между собой, вы, вероятно, были изменены следующие строки:

dense1 = tf.reshape(norm3, [-1, _weights['wd1'].get_shape().as_list()[0]]) # Reshape conv3 output to fit dense layer input 
dense1 = tf.nn.relu(tf.matmul(dense1, _weights['wd1']) + _biases['bd1'], name='fc1') # Relu activation 
dense2 = tf.nn.relu(tf.matmul(dense1, _weights['wd2']) + _biases['bd2'], name='fc2') # Relu activation 
out = tf.matmul(dense2, _weights['out']) + _biases['out'] 

Вероятно, форма dense2 является [49, 1024] в вашем случае. Вы можете проверить, добавив печать dense2.get_shape(). Вы должны печатать для фигур для всех тензоров, пока не найдете тот, который получает 49. Я могу только догадываться, что вы изменили, но это может быть одна из преобразований.

Answer 3

Эта проблема объясняется тем, что переменная и метка класса не соответствуют друг другу.

например: - В коде, вы объявили переменную класса как 10 Но метка не может быть 10.

После того, как вы сделали свой класс переменной и маркировать ту же размерность. Эта проблема будет решена.