2016-06-22 3 views
0

Добрый день всем, мне нужно знать, как эффективно загружать данные из достаточно больших файлов в базу данных mySql. Итак, у меня есть два файла: 5,85Gb и 6Gb данных. Для загрузки я использовал `LOAD DATA LOCAL INTO FILE. Первый файл все еще загружается (для 36часов). Текущий размер индекса 7,2 ГБ. У меня есть два вопроса:Эффективная загрузка данных из больших файлов в базу данных

1) Данные отформатированы Lile: {string, int, int, int, int}. Мне не нужны эти значения int, поэтому я создал таблицу с одним полем типа varchar (128), мой запрос LOAD DATA LOCAL INFILE "file" INTO TABLE "tale", так что данные будут корректными (я имею в виду только строки без полей int).

2) Чем больше индекс, чем больше времени загрузки для следующего. Итак, я делаю что-то неправильно? Я имею в виду, что мне нужно. Мне нужен быстрый поиск, затем в этих строках (особенно в последнем слове). Таким образом, все строки имеют ровно 5 слов, делает ли любой смысл помещать каждое слово в другой столбец (n строк, 5 столбцов).

Пожалуйста, любые предложения.

ответ

0

Можете ли вы сбросить индекс на данный момент и воссоздать индекс, как только данные будут загружены на стол. Я думаю, это сработает.

Оценка индекса потребует времени.

Смежные вопросы