2015-10-19 2 views
0

im делает некоторые симуляции с помощью python и сохраняет результаты с помощью pickle.dump(). Теперь у меня есть огромное количество данных, которые мне нужно прочитать. Данные состоят из матриц (много строк чисел), каждый из которых сохраняется в одном файле. Мне нужно уметь эффективно читать информацию.Прочитать однострочный пиренок python

  • Как я могу прочитать одну строку матрицы без загрузки полного файла?
  • Как я могу прочитать определенный набор строк (скажем, от линии 1000 до 2000) без загрузки полного файла? Вот код, я использовал, чтобы сохранить данные:

    for j in range(61): 
        for l in range(31): 
         X = zeros([100000,100]) 
         K = k[j] 
         A = a[l] 
         X = RK4(deriv,dt,pasos,xo,n,w,b,K,g,A,V) 
         pickle.dump(X, open('Vrc'+'dk_'+ str(K) + 'alpha_' + str(A) , "wb")) 
    
+1

Поскольку вы сохраняете матрицу с 'pickle', она создает большую часть данных, которые невозможно прочитать по строкам, это ничего не значит, если она не завершена. Вы должны использовать другой формат сохранения. – mguijarr

ответ

-1

Попробуйте использовать генераторы при выполнении pickle.load(): yield pickle.load(...)

также посмотреть на cPickle.

Смежные вопросы