使用poll()的使用者单元测试永远不会收到任何东西

时间:2018-09-30 17:55:23

标签: java apache-kafka spring-kafka

考虑以下代码:

@Test(singleThreaded = true)
public class KafkaConsumerTest
{
  private KafkaTemplate<String, byte[]> template;
  private DefaultKafkaConsumerFactory<String, byte[]> consumerFactory;
  private static final KafkaEmbedded EMBEDDED_KAFKA;
  static {
      EMBEDDED_KAFKA = new KafkaEmbedded(1, true, "topic");
      try { EMBEDDED_KAFKA.before(); } catch (final Exception e) { e.printStackTrace(); }
    }

  @BeforeMethod
  public void setUp() throws Exception {
    final Map<String, Object> senderProps = KafkaTestUtils.senderProps(EMBEDDED_KAFKA.getBrokersAsString());
    senderProps.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class);
    senderProps.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, ByteArraySerializer.class);
    final ProducerFactory<String, byte[]> pf = new DefaultKafkaProducerFactory<>(senderProps);
    this.template = new KafkaTemplate<>(pf);
    this.template.setDefaultTopic("topic");
    final Map<String, Object> consumerProps = KafkaTestUtils.consumerProps("sender", "false", EMBEDDED_KAFKA);
    this.consumerFactory = new DefaultKafkaConsumerFactory<>(consumerProps);
    this.consumerFactory.setValueDeserializer(new ByteArrayDeserializer());
    this.consumerFactory.setKeyDeserializer(new StringDeserializer());
  }

  @Test
  public void testSendToKafka() throws InterruptedException, ExecutionException, TimeoutException {
    final String message = "42";
    final Message<byte[]> msg = MessageBuilder.withPayload(message.getBytes(StandardCharsets.UTF_8)).setHeader(KafkaHeaders.TOPIC, "topic").build();
    this.template.send(msg).get(10, TimeUnit.SECONDS);
    final Consumer<String, byte[]> consumer = this.consumerFactory.createConsumer();
    consumer.subscribe(Collections.singleton("topic"));
    final ConsumerRecords<String, byte[]> records = consumer.poll(10000);
    Assert.assertTrue(records.count() > 0);
    Assert.assertEquals(new String(records.iterator().next().value(), StandardCharsets.UTF_8), message);
    consumer.commitSync();
  }
}

我正在尝试向KafkaTemplate发送消息,并使用Consumer.poll()重新阅读。我使用的测试框架是 TestNG

发送正常,我已验证使用在网络中找到的“常用”代码(在KafkaMessageListenerContainer上注册消息侦听器)。

仅,我从未在消费者中收到任何东西。我已经针对“真正的” Kafka安装尝试了相同的顺序(创建Consumerpoll()),并且它可以正常工作。

因此,我设置ConsumerFactory的方式似乎有问题吗?任何帮助将不胜感激!

1 个答案:

答案 0 :(得分:0)

您需要使用

EMBEDDED_KAFKA.consumeFromAnEmbeddedTopic(consumer, "topic");

在通过KafkaTemplate发布记录之前。

然后在测试验证结束时,您需要使用以下内容:

ConsumerRecord<String, String> record = KafkaTestUtils.getSingleRecord(consumer,  "topic");

您也可以按照自己的方式使用它,只是缺少的是将ConsumerConfig.AUTO_OFFSET_RESET_CONFIG用作earliest,因为默认的是latest。这样,以后添加到该主题的消费者就不会看到以前发布的任何记录。