Python pickle: fix \ r characters перед загрузкой

Question

У меня есть маринованный объект (список с несколькими массивами numpy в нем), который был создан в Windows и, по-видимому, сохранен в файл, загруженный в виде текста, а не в двоичном режиме (т.е. с open(filename, 'w') вместо open(filename, 'wb')). Результат заключается в том, что теперь я не могу ее разблокировать (даже не в Windows), потому что он заражен \r символами (и, возможно, больше)? Основная жалоба

ImportError: No module named multiarray 

якобы потому, что он ищет numpy.core.multiarray\r, который, конечно, не существует. Просто удаление \r символов не делать трюк (пытался как sed -e 's/\r//g' и, в питона s = file.read().replace('\r', ''), но и разбить файл и дают cPickle.UnpicklingError позже)

Проблема заключается в том, что мне действительно нужно, чтобы получить данные из объекты. Любые идеи по исправлению файлов?

Edit: По желанию, первые несколько сот байт моего файла, восьмеричный:

\x80\x02]q\x01(}q\x02(U\r\ntotal_timeq\x03G?\x90\x15r\xc9(s\x00U\rreaction_timeq\x04NU\x0ejump_directionq\x05cnumpy.core.multiarray\r\nscalar\r\nq\x06cnumpy\r\ndtype\r\nq\x07U\x02f8K\x00K\x01\x87Rq\x08(K\x03U\x01<NNNJ\xff\xff\xff\xffJ\xff\xff\xff\xffK\x00tbU\x08\x025\x9d\x13\xfc#\xc8?\x86Rq\tU\x14normalised_directionq\r\nh\x06h\x08U\x08\xf0\xf9,\x0eA\x18\xf8?\x86Rq\x0bU\rjump_distanceq\x0ch\x06h\x08U\x08\x13\x14\xea&\xb0\x9b\x1a@\x86Rq\rU\x04jumpq\x0ecnumpy.core.multiarray\r\n_reconstruct\r\nq\x0fcnumpy\r\nndarray\r\nq\x10K\x00\x85U\x01b\x87Rq\x11(K\x01K\x02\x85h\x08\x89U\x10\x87\x16\xdaEG\xf4\xf3?\x06`OC\xe7"\x1a@tbU\x0emovement_speedq\x12h\x06h\x08U\x08\\p\xf5[2\xc2\xef?\x86Rq\x13U\x0ctrial_lengthq\x14G@\t\x98\x87\xf8\x1a\xb4\xbaU\tconditionq\x15U\x0bhigh_mentalq\x16U\x07subjectq\x17K\x02U\x12movement_directionq\x18h\x06h\x08U\x08\xde\x06\xcf\x1c50\xfd?\x86Rq\x19U\x08positionq\x1ah\x0fh\x10K\x00\x85U\x01b\x87Rq\x1b(K\x01K\x02\x85h\x08\x89U\x10K\xb7\xb4\x07q=\x1e\xc0\xf2\xc2YI\xb7U&\xc0tbU\x04typeq\x1ch\x0eU\x08movementq\x1dh\x0fh\x10K\x00\x85U\x01b\x87Rq\x1e(K\x01K\x02\x85h\x08\x89U\x10\xad8\x9c9\x10\xb5\xee\xbf\xffa\xa2hWR\xcf?tbu}q\x1f(h\x03G@\t\xba\xbc\xb8\xad\xc8\x14h\x04G?\xd9\x99%]\xadV\x00h\x05h\x06h\x08U\x08\xe3X\xa9=\xc1\xb1\xeb?\x86Rq h\r\nh\x06h\x08U\x08\x88\xf7\xb9\xc1\t\xd6\xff?\x86Rq!h\x0ch\x06h\x08U\x08v\x7f\xeb\x11\xea5\r@\x86Rq"h\x0eh\x0fh\x10K\x00\x85U\x01b\x87Rq#(K\x01K\x02\x85h\x08\x89U\x10\xcd\xd9\x92\x9a\x94=\x06@]C\xaf\xef\xeb\xef\x02@tbh\x12h\x06h\x08U\x08-\x9c&\x185\xfd\xef?\x86Rq$h\x14G@\r\xb8W\xb2`V\xach\x15h\x16h\x17K\x02h\x18h\x06h\x08U\x08\x8e\x87\xd1\xc2 

Вы также можете скачать whole file (22k).

Answer 1

Предположив, что файл был создан с протоколом по умолчанию = 0 ASCII-совместимым способом, вы должны быть в состоянии загрузить его в любом месте с помощью open('pickled_file', 'rU') т.е. универсальные символы новой строки.

Если это не сработает, покажите нам первые несколько сотен байт: print repr(open('pickled_file', 'rb').read(200)) и вставьте результаты в редактирование вашего вопроса.

Update после содержимого файла были опубликованы:

Ваш файл начинается с '\x80\x02'; он был сброшен с протоколом 2, последним/лучшим. Протоколы 1 и 2: бинарные протоколы. Ваш файл был записан в текст режим в Windows. Это привело к тому, что каждый '\n' был преобразован в '\r\n' по времени выполнения C. Файлы должны быть открыты в двоичном режиме, как это:

with open('result.pickle', 'wb') as f: # b for binary 
    pickle.dump(obj, f, pickle.HIGHEST_PROTOCOL) 

with open('result.pickle', 'rb') as f: # b for binary 
    obj = pickle.load(f) 

Docs является here. Этот код будет работать как в Windows, так и в системах, отличных от Windows.

Вы можете восстановить исходное изображение рассола, прочитав файл в двоичном режиме, а затем изменив повреждение, заменив все вхождения '\r\n' на '\n'. Примечание. Эта процедура восстановления необходима, если вы пытаетесь ее прочитать в Windows или нет.

Answer 2

Не можете ли вы - в Windows - просто откройте файл в текстовом режиме, так же, как он был написан, прочитайте его и затем запишите его в другой файл, открытый правильно в двоичном режиме?

Answer 3

Вы попробовали unpickling в текстовом режиме? То есть,

x = pickle.load(open(filename, 'r')) 

(В Windows, конечно.)

Answer 4

Новые строки в Windows - это не только '\r', это CRLF, либо '\r\n'.

Дать file.read().replace('\r\n', '\n') попробовать. Вы ранее удаляли возврат каретки, который, возможно, не был частью новых строк.