Pandas and Cassandra: несовместимость формата массива numpy

Question

Я использую драйвер Passon cassandra для подключения и запроса нашего кластера Cassandra.

Я хочу, чтобы манипулировать мои данные через панда, есть область, в документации для водителя Кассандре, что говорит об этом именно: https://datastax.github.io/python-driver/api/cassandra/protocol.html

NumpyProtocolHander: deserializes results directly into NumPy arrays. This facilitates efficient integration with analysis toolkits such as Pandas.

Следуя инструкции выше и делать запрос на выборку в Кассандре, Я могу увидеть выход (через функцию типа()) в виде:

<class 'cassandra.cluster.ResultSet'> 

переборе результатов, это то, что печать строки появляется как:

{u'reversals_rejected': array([0, 0]), u'revenue': array([ 0, 10]), u'reversals_revenue': array([0, 0]), u'rejected': array([3, 1]), u'impressions_positive': array([3, 3]), u'site_user_id': array([226226, 354608], dtype=int32), u'error': array([0, 0]), u'impressions_negative': array([0, 0]), u'accepted': array([0, 2])} 

(Я ограничил результаты запроса, я работаю с гораздо большими объемами данных - следовательно, вы хотите использовать numpy и pandas).

Мои знания панды ограничен, я попытался запустить очень основные функциональные возможности:

rslt = cassandraSession.execute("SELECT accepted FROM table") 

test = rslt[["accepted"]].head(1) 

Это выводит следующее сообщение об ошибке:

Traceback (most recent call last): 
    File "/UserStats.py", line 27, in <module> 
    test = rslt[["accepted"]].head(1) 
    File "cassandra/cluster.py", line 3380, in cassandra.cluster.ResultSet.__getitem__ (cassandra/cluster.c:63998) 
TypeError: list indices must be integers, not list 

Я понимаю ошибку, я просто не знаю, как «перейти» от этой предполагаемой матрицы numpy к возможности использования Pandas.

Answer 1

Короткий ответ:

df = pd.DataFrame(rslt[0]) 
test = df.head(1) 

Rslt [0] дает данные как Dict Python, который может быть легко преобразован в dataframe панды.

Для полного решения:

import pandas as pd 
from cassandra.cluster import Cluster 
from cassandra.protocol import NumpyProtocolHandler 
from cassandra.query import tuple_factory 

cluster = Cluster(
    contact_points=['your_ip'], 
    ) 
session = cluster.connect('your_keyspace') 
session.row_factory = tuple_factory 
session.client_protocol_handler = NumpyProtocolHandler 

prepared_stmt = session.prepare ("SELECT * FROM ... WHERE ...;") 
bound_stmt = prepared_stmt.bind([...]) 
rslt = session.execute(bound_stmt) 
df = pd.DataFrame(rslt[0]) 

Примечание: выше решение будет только вам часть данных, если запрос велик. Так что вы должны сделать:

df = pd.DataFrame() 
for r in rslt: 
    df = df.append(r)