2015-01-07 2 views
0

У нас есть kafka v2.10 и zookeeper v3.4, настроенные и работающие. Мы пишем высокопоставленных потребителей, потребляющих журнальные журналы от Kafka. Потребитель A запускает потребительские сообщения для темы T и идентификатора группы G1 (после примера высокого уровня потребителей, представленного в документации Apache Kafka). Затем, когда потребитель B запускается с той же темой T, но с идентификатором группы G2, он подключается к kafka/zookeeper, но потребляет log-msgs, начиная со смещения после последнего, используемого пользователем A.Использование Kafka & Zookeeper, Идентификатор группы не извлекает Kafka с самого начала

Насколько я понимаю, это должны быть заданы протоколы журналов, начиная с самого низкого смещения, доступного в Kafka для этой темы. Любая идея, почему это не так?

Мы еще не копируем kafka или zookeeper. OUr, созданная на этом этапе, проста и прямолинейна, и мы пытаемся заставить их работать с базовыми функциями.

Любая помощь приветствуется.

Кроме того, вы знаете, где мы можем найти новые каталоги, которые якобы zookeeper создает каждый раз, когда потребитель с новым идентификатором группы устанавливает соединение с zookeeper (для отслеживания смещения для этого идентификатора группы)?

ответ

2

Вы можете попробовать добавить это к конфигурации при создании группы потребителей

props.put("auto.offset.reset", "smallest"); 
+0

Спасибо большое, что сделал это. Знаете ли вы, как в клиенте zookeeper я могу отобразить последнее смещение, которое потребительская группа читала для темы. Он должен сэкономить его где-нибудь, чтобы узнать следующее смещение, с которым начинается этот тип groupid shoodl. – FZF

+0

Я бы предложил вам задать отдельный вопрос для этого ... но до этого перейдите по http://kafka.apache.org/08/documentation.html#distributionimpl, чтобы получить общее представление о том, как Zookeeper участвует в этом – user2720864

Смежные вопросы