2016-09-08 2 views
2

Я начинаю с Python, мне нужна помощь в управлении файлами csv в Python. Я пытаюсь сделать скользящий механизм окна для каждой строки в наборе данных.CSV-файлы в Python (раздвижное окно)

для примера, если набор данных это

timestamp | temperature | windspeed 
965068200 9.61883 60.262 
965069100 9.47203 60.1664 
965070000 9.31125 60.0145 
965070900 9.13649 59.8064 

и если пользователь указал размер окна 3, результат должен быть что-то вроде

timestamp | temperature-2 | temperature-1 |temperature-0 | windspeed-2 | windspeed-1 | windspeed-0 
965070000 9.61883 9.47203 9.31125 60.262 60.1664 60.0145 
965070900 9.47203 9.31125 9.13649 60.1664 60.0145 59.8064 

Я мог бы сделать это с помощью Список ObjectsArray в Java. Чтение CSV и создание нового CSV, в котором он содержит преобразованный набор данных. Вот код http://pastebin.com/cQnTBg8d #researh

Мне нужно сделать это в Python, пожалуйста, помогите мне решить эту проблему.

Спасибо

+0

Вы взглянули на модуле [CSV] (https://docs.python.org/3/library/csv.html), все же? – janbrohl

+0

Это фактически не похоже на фактический csv, поэтому было бы проще просто использовать строковые методы. – janbrohl

+0

Ваш большой csv? может ли он храниться в памяти? –

ответ

0

Этот ответ предполагает, что вы используете Python 3.x - для Python 2.x некоторые изменения необходимы (некоторые очевидные места комментируются)

Для формата данных в вопрос о том, что это может быть отправной точкой в ​​Python:

import collections 

def slide(infile,outfile,window_size): 
    queue=collections.deque(maxlen=window_size) 
    line=infile.readline() 
    headers=[s.strip() for s in line.split("|")] 
    row=[headers[0]] 
    for h in headers[1:] 
     for i in reversed(range(window_size)): 
      row.append("%s-%i"%(h,i)) 
    outfile.write(" | ".join(row)) 
    outfile.write("\n") 
    for line in infile: 
     queue.append(line.split()) 
     if len(queue)==window_size: 
      row=[queue[-1][0]] 
      for j in range(1,len(headers)): 
       for old in queue: 
        row.append(old[j]) 
      outfile.write("\t".join(row)) 
      outfile.write("\n") 

ws=3 
with open("infile.csv","r") as inf: 
    with open("outfile.csv","w") as outf: 
     slide(inf,outf,ws) 

на самом деле этот код все об использовании очереди, чтобы входные строки для окна и не более - все остальное - текст в список для текста.

с фактическими данными в формате CSV (см комментарий)

import csv 
import collections 

def slide(infile,outfile,window_size): 
    r=csv.reader(infile) 
    w=csv.writer(outfile) 
    queue=collections.deque(maxlen=window_size) 
    headers=next(r) # r.next() on python 2 
    l=[headers[0]] 
    for h in headers[1:] 
     for i in reversed(range(window_size)): 
      l.append("%s-%i"%(h,i)) 
    w.writerow(l) 
    hrange=range(1,len(headers)) 
    for row in r: 
     queue.append(row) 
     if len(queue)==window_size: 
      l=[queue[-1][0]] 
      for j in hrange: 
       for old in queue: 
        l.append(old[j]) 
      w.writerow(l) 

ws=3 
with open("infile.csv","r") as inf: # rb and no newline param on python 2 
    with open("outfile.csv","w") as outf: # wb and no newline param on python 2 
     slide(inf,outf,ws) 
+0

Спасибо за вашу поддержку @janbrohl, я обнаружил ошибку в этой строке. headers = [s.strip() для s в infile.readline(). strip(). strip ("*"). split ("|")]. и, пожалуйста, укажите, что вопрос редактируется сейчас. –

+0

изменен соответственно – janbrohl

+0

Спасибо за ваши усилия @janbrohl, я не могу скомпилировать из-за некоторых ошибок. не могли бы вы это исправить? https://i.imgsafe.org/14dea045e4.png –

Смежные вопросы