Как реализовать несколько производителей и нескольких потребителей в kafka

Question

Я новичок в kafka, у меня есть требование, как у меня есть много серверов, которые производят огромное количество журналов, я хочу создать несколько производителей и потребителей.

Я реализовал для одного производителя и потребителя, кто-нибудь может помочь мне понять, как я буду создавать несколько производителей и потребителей.

вот мой код производителя и потребителя

Производитель: -

public class MessageProducerExample { 

    public static void main(String[] args) { 

     System.out.println("Hello World"); 


     Properties props = new Properties(); 
     props.put("bootstrap.servers", "localhost:9092"); 
     props.put("acks", "all"); 
     props.put("retries", 0); 
     props.put("batch.size", 16384); 
     props.put("linger.ms", 1); 
     props.put("buffer.memory", 33554432); 
     props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); 
     props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); 

     Producer<String, String> producer = new KafkaProducer<String, String>(props); 
     for(int i = 0; i < 100; i++) 
      producer.send(new ProducerRecord<String, String>("test", "Msg"+Integer.toString(i),"Msg"+Integer.toString(i))); 

     producer.close(); 

    } 
} 

Потребитель: -

public class MessageConsumerExample { 

    public static void main(String[] args) { 

     String topicName = args[0]; 


     Properties props = new Properties(); 
     props.put("bootstrap.servers", "localhost:9092"); 
     props.put("group.id", "test-consumer-group"); 
     props.put("enable.auto.commit", "true"); 
     props.put("auto.commit.interval.ms", "1000"); 
     props.put("session.timeout.ms", "30000"); 
     props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); 
     props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer"); 
     props.put("auto.offset.reset","earliest"); 

     System.out.println("TopicName="+topicName); 

     KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props); 
     consumer.subscribe(Arrays.asList(topicName)); 

     while (true) { 
      ConsumerRecords<String, String> records = consumer.poll(100); 
      System.out.println("records"+records.count()); 
      for (ConsumerRecord<String, String> record : records) 
       //System.out.println("offset = %d, key = %s, value = %s", record.offset(), record.key(), record.value()); 
       System.out.println("RECORD_OFFSET"+record.offset()+"RECORD_KEY" +record.key()+"RECORD_VALUE "+record.value()); 
     } 
     } 
} 

Благодаря передовой.

Answer 1

Производитель Kafka использует iothread для брокера в асинхронном режиме. Kafka Producer - By default supports Multithreading?

Для потребителей вы можете создать пул потоков, каждый из которых запускает экземпляр пользователя. Просто убедитесь, что все экземпляры имеют одну и ту же группу пользователей. Некоторые примеры приведены здесь - Kafka consumer group