2016-10-14 2 views
3

Я новичок в Apache Kafka. Я читал о политике очистки Compaction. Меня это особенно интересует, потому что я хочу использовать эту политику по темам, которые используются для синхронизации разных хранилищ данных для достижения конечной согласованности.Как долго сохраняются в Кафке скрепленные журналы?

Я вижу, что есть опция delete.retention.ms, доступная мне для использования. Но это относится только к «удалять» надгробные плиты/полезную нагрузку. Я понимаю, что этот параметр ограничивает время, в течение которого я могу повторно запустить пользователя после того, как не просмотрел записи от offset=0. Тем не менее, я никогда не удаляю ничего в своей системе. Другими словами, я никогда не собираюсь «удалять» надгробные плиты/полезную нагрузку.

Поскольку я никогда не собираюсь удалять надгробные плиты, я хочу знать, как долго Кафка будет хранить уплотненный журнал?

ПРИМЕЧАНИЕ: Я столкнулся с вопросом this, который привел меня к вопросу this. Это не отвечает на то, что мне нужно знать, или это не то, что я могу использовать, чтобы установить предел продолжительности жизни компактного журнала. Поправьте меня, если я ошибаюсь.

ответ

4

Если вы используете журнал уплотнению (и не войти сохранение) Кафка будет держать последнюю запись для каждого ключ навсегда (пока вы не удалите весь ключ с явным надгробием сообщением <key:null>).

+0

В качестве последующего вопроса, какими хорошими способами управлять размером этих данных? –

+0

Размер вашей темы зависит (с использованием сжимания журнала) зависит от двух факторов: (1) количество разного ключа (это в основном нижняя граница размера журнала) и (2), как запускается горячая очистка журнала, в сочетание с вами ввод/обновление записи. Можно настроить интервал очистки журнала. –

Смежные вопросы