Question

如下所示，我的代码是一个高级消费者在kafka服务器中获取一个包含32个分区的主题，我很困惑，为什么有时候我会从consumer.poll（）获得一个空的回复。我试图增加轮询超时，然后当我将超时增加到1000时，每次轮询都返回数据，而我将超时设置为10或0，然后我看到很多空返回。

有谁能告诉我如何设置正确的超时？

  def main(args: Array[String]): Unit = {
    val props = new Properties()
    props.put("bootstrap.servers", "kafka-01:9098")
    props.put("group.id", "kch1")
    props.put("enable.auto.commit", "true")
    props.put("auto.commit.interval.ms", "1000")
    props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer")
    props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer")

    //props.put("max.poll.records", "1000")
    val consumers = new Array[KafkaConsumer[String, String]](16)
    for(i <- 0 to 15) {
      consumers(i) = new KafkaConsumer[String, String](props)
      consumers(i).subscribe(util.Arrays.asList("veh321"))
    }
    var cnt = 0
    var cacheIterator: Iterator[ConsumerRecord[String, String]] = null
    for(i <- 0 to 15) {
      new Thread(new Runnable {
        override def run(): Unit = {
          var finish = false
          while(!finish) {
            val start = System.currentTimeMillis()
            cacheIterator = consumers(i).poll(100).iterator()
            val end = System.currentTimeMillis() - start
            if (end > 10 ) {
              println(s"${Thread.currentThread().getId} + Duration is ${end}， ${cacheIterator.hasNext} ${cacheIterator.size}")
            }
          }
        }
      }).start()
    }

Answer 1

Java使用者通过调用java.nio.channels.Selector.select（timeout）将Linux的epoll作为底层实现方案。如果您只给它100毫秒来尝试在该短时间间隔内准备好多少SelectionKeys，则很可能不返回任何内容。

此外，在相同的100毫秒内，消费者将做一些其他工作，包括轮询协调员状态，因此记录轮询的实时间隔显然小于100毫秒，这使得更难以检索一些非常有用的东西。

当kafka消费者民意调查返回空记录？

1 个答案: