2016-08-19 2 views
3

Я пытаюсь передать данные с помощью Kafka-Connect с разъемом для подключения HDFS. Как автономные, так и распределенные режимы работают нормально, но запись в HDFS только один раз (на основе размера флеша), а не потоковая передача позже. Пожалуйста, помогите, если я пропущу что-то.Kafka Connect HDFS Sink Issue

Сливной 2.0.0 & Кафка 0.9.0

ответ

2

Я столкнулся с этой проблемой долго проверка back.Just ниже параметра отсутствует

свойства Connect-HDFS-поглотителей

«logs.dir ":"/hdfs_directory/данные/журнал»

"request.timeout.ms": "310000"

"offset.flush.interval.ms": "5000"

"heartbeat.interval.ms": "60000"

"session.timeout.ms": "300000

" макс. poll.records ":" 100 "

+0

Большое спасибо Gaurav. Я пропустил свойство logs.dir. Работает отлично и теперь можно передавать данные. –

+0

Разве это 'customer.max.poll.records' вместо' max.poll.records'? –