python pandas read_csv тысяч разделитель не работает

Question

Я использую pandas read_csv для чтения простого файла csv. Однако он имеет ValueError: could not convert string to float:, который я не понимаю, почему.

код просто

rawdata = pd.read_csv(r'Journal_input.csv' , 
         dtype = { 'Base Amount' : 'float64' } , 
         thousands = ',' , 
         decimal = '.', 
         encoding = 'ISO-8859-1') 

Но я получаю эту ошибку

pandas\parser.pyx in pandas.parser.TextReader.read (pandas\parser.c:10415)()

pandas\parser.pyx in pandas.parser.TextReader._read_low_memory (pandas\parser.c:10691)()

pandas\parser.pyx in pandas.parser.TextReader._read_rows (pandas\parser.c:11728)()

pandas\parser.pyx in pandas.parser.TextReader._convert_column_data (pandas\parser.c:13162)()

pandas\parser.pyx in pandas.parser.TextReader._convert_tokens (pandas\parser.c:14487)()

ValueError: could not convert string to float: '79,026,695.50'

Как можно получить ошибку при преобразовании строки '79, 026,695.50' плавать? Я уже указал два варианта:

thousands = ',' , 
decimal = '.', 

Это проблема в моем коде или ошибке в пандах?

Answer 1

Кажется, есть проблема с quoting, потому что если разделитель , и thousands является , тоже, некоторые процитировать должен быть в csv:

import pandas as pd 
from pandas.compat import StringIO 
import csv 

temp=u"""'a','Base Amount' 
'11','79,026,695.50'""" 
#after testing replace 'StringIO(temp)' to 'filename.csv' 
df = pd.read_csv(StringIO(temp), 
       dtype = { 'Base Amount' : 'float64' }, 
       thousands = ',' , 
       quotechar = "'", 
       quoting = csv.QUOTE_ALL, 
       decimal = '.', 
       encoding = 'ISO-8859-1') 

print (df) 
    a Base Amount 
0 11 79026695.5 

temp=u'''"a","Base Amount" 
"11","79,026,695.50"''' 
#after testing replace 'StringIO(temp)' to 'filename.csv' 
df = pd.read_csv(StringIO(temp), 
       dtype = { 'Base Amount' : 'float64' }, 
       thousands = ',' , 
       quotechar = '"', 
       quoting = csv.QUOTE_ALL, 
       decimal = '.', 
       encoding = 'ISO-8859-1') 

print (df) 
    a Base Amount 
0 11 79026695.5