Я использую Maxwell для записи изменений из базы данных MySql в Kafka 0.9.0, есть способ настроить Maxwell, чтобы он мог разбивать данные по разным темам с помощью хеш-функции над столбцом?Maxwell hash (sql_column) пишите на раздел kafka
1
A
ответ
0
Вы можете указать database | table | primary_key | column
для параметра конфигурации producer_partition_by
.
Как видно из документации here,
HASH_FUNCTION (HASH_STRING)% TOPIC.NUMBER_OF_PARTITIONS
HASH_FUNCTION либо хэш-код Java или murmurhash3. по умолчанию HASH_FUNCTION - hashCode. Murmurhash3 может быть установлен с опцией kafka_partition_hash. Начальное значение функции murmurhash жестко запрограммировано до 25342 в классе MaxwellKafkaPartitioner.
HASH_STRING может быть (база данных, таблица, primary_key, column). по умолчанию HASH_STRING - это база данных. Поле секционирования может быть , настроенное с использованием параметра manufacturer_partition_by.
Смежные вопросы
- 1. Kafka Раздел раздела
- 2. KAFKA потребитель и раздел
- 3. Тема Kafka vs Раздел раздела
- 4. Oracle: изменение диапазона патчей на раздел Hash
- 5. kafka раздел и отношения производителей
- 6. kafka-python - Как сделать раздел?
- 7. Kafka: переместить раздел из недействительного брокера
- 8. Читайте и пишите на месте, не пишите?
- 9. пишите от kafka до hdfs (с cloudera cdk?)
- 10. DCOS/Mesos Kafka команда увеличить раздел
- 11. Kafka Потребительская подписка и назначенный раздел
- 12. Spring Batch: Читайте данные от Kafka и пишите в файл
- 13. Как работает раздел hash (row id + year)?
- 14. Apache Kafka Раздел раздела Обработка сообщений
- 15. Выход LogStash Kafka в конкретный раздел
- 16. Oracle 11g Композитный раздел - Диапазон | Hash
- 17. пишите 0 на диск, кроме существующих файлов
- 18. C# пишите на текущий ответ http
- 19. kafka NoClassDefFoundError kafka/Kafka
- 20. пишите на blobstore с url
- 21. Пишите null несмотря на NullValueHandling.Ignore
- 22. Читайте и пишите на сервер
- 23. Pygame Пишите на другой терминал?
- 24. Каким образом расписание процесса kafka записывается в другой раздел?
- 25. Гиперссылка на раздел страницы
- 26. Можно ли добавить раздел или брокер онлайн для kafka?
- 27. Расходуйте и создайте сообщение, в частности, раздел Kafka?
- 28. Производитель Kafka создает раздел для темы из Java
- 29. Maxwell xid в json, написанном в очередь массажа
- 30. пишите файл