2015-08-07 3 views
2

Версия: Solr 4,1Solr капель/удаляет все старые документы, в то время переиндексации

Постановка задачи:

  1. Solr удалить/удаляет все старые документы, когда мы нажмем на полный импорт ода данных импорт обработчик. После того, как полный импорт завершен, все отлично работает.

  2. Помогите мне понять значения JVM, прикрепленные как изображение, я пытаюсь подключить его к проблеме.

В соответствии с моим пониманием solr не удаляет и не удаляет старые документы до тех пор, пока новые документы не будут полностью импортированы. Но в моем случае он отбрасывает старые документы, в то время как новые документы частично импортируются.

Детали:

  1. Мы используем Solr Облако с одним осколка и 2 реплики. S1-R1 -------- S1-R2
  2. Использование балансировочного устройства amazon для балансировки удара по каждому из них.
  3. Оба из них соединены с 3 зокеперами.
  4. Распределение памяти: JAVA_OPTS = "$ JAVA_OPTS -Xms8192m -Xmx12288m -XX: PermSize = 3072m -XX: MaxPermSize = 8192m -Xss4m"

  5. Solr админка показывает:

    • Физическая Память 98,2%
    • подкачки 0,0%
    • Дескриптор файла
    • Count 0.2%
    • виртуальной машины Java-памяти 34,3%

Solr Admin Panel JVM info

+0

Какая у вас настройка автоматической фиксации в solrconfig? Убедитесь, что для параметра 'openSearcher' установлено значение false. Кроме того, вам необходимо убедиться, что другой клиент не совершает транзакции Solr при запуске полного импорта. – arun

+0

@arun да, и я заметил, что auto commit имеет тег со временем = 1500, я увеличил его до 15000000 и документировал commit = 1000000. Я тестировал его на UAT, он работает нормально. Я жду, чтобы проверить это на перфомансе. –

ответ

0
  1. Solr удалить/удаляет все старые документы, когда мы нажмем на полный импорт обработчика импорта данных. После того, как полный импорт завершен, все отлично работает.

- Как вы спрашиваете чистый = правда, чистый: (по умолчанию 'истина'). Указывает, следует ли очищать индекс до начала индексации.

С этим DIH сначала выдается запрос «удалить все». Затем он начинает добавлять новые документы. После его устранения/завершения DIH выдает коммит, который обеспечивает соблюдение новых документов, которые добавили и удалили все старые документы, существовавшие до начала индексации.

Вы также можете выбрать оптимизацию, но это может быть дорогостоящей операцией.

optimize: (по умолчанию «true» до Solr 3.6, «false» впоследствии). Сообщает, следует ли оптимизировать после операции.) Обратите внимание: это может быть очень дорогостоящей операцией и обычно не имеет смысла для дельта-импорта.

+0

Чистота не была равна истине. –

+0

его по умолчанию true ... –

+0

Я подтвердил от нашей команды. Мы отправляем его неверно. Хотя я думаю, что по умолчанию это false –

Смежные вопросы