Kafka,不同的分区将具有相同的偏移号

时间:2018-12-17 15:49:24

标签: apache-kafka kafka-consumer-api

我有一个Kafka主题和一个主题的五个分区。将有5个消费群体。每个使用者组都有一个使用该主题的服务实例。

在Kafka中,相同记录的每个使用者的偏移量是否相同?

2 个答案:

答案 0 :(得分:2)

按偏移量,如果您是指消息的顺序,则为是。对于所有消费者来说都是一样的,因为订购由生产商​​和经纪人决定。因此,如果您在主题中有 msg-1 msg-2 ,..., msg-1000 ,则所有5个消费者都将以特定的顺序食用它们。但是消费率可能会有所不同。它具有许多决定消耗率的变量(例如网络延迟,网络拓扑,消费者逻辑等)。

答案 1 :(得分:2)

当消息进入分区时,偏移由代理分配,因此它是唯一的,并且与使用者(和使用者组)无关。它标识记录在分区内的唯一位置。 另一方面,每个消费者(在一个消费者组中)从特定分区读取的数据将跟踪其自己的偏移量,该偏移量将与消费者(在其他消费者组中)不同。在这种情况下,偏移量概念用于跟踪从中读取消息的分区内的位置。当然,它总是消息偏移量。

相关问题