尝试以编程方式通过jmx访问kafka指标时出错

时间:2018-09-11 18:42:41

标签: java apache-kafka jmx

我只是从一个简单的示例开始阅读jmx指标,并使用HeapMemoryUsage,CPUTime等简单的值来了解它。我需要尝试访问kafka服务器/消费者指标,特别是滞后,我可以看到滞后在fetcherLagMetrics-ConsumerLag下的jconsole应用中可见。但是以编程方式我得到以下错误:

javax.management.InstanceNotFoundException: kafka.consumer:type=consumer- 
  fetch-manager-metrics

这告诉我,使用者获取管理器度量标准是个问题,因为即使在jconsole中也不存在。我将其更改为以下内容,并且仍然是相同的问题:

consumerBean = jmxCon.getMBeanServerConnection().getAttribute(new 
   ObjectName("kafka.server:type=FetcherLagMetrics"),"ConsumerLag");
            cd = (CompositeData) consumerBean;

尝试访问这些值的代码如下:

        jmxCon.getMBeanServerConnection().invoke(new 
         ObjectName("java.lang:type=Memory"), "gc", null, null);

        for (int i = 0; i < 100; i++) {

            //get an instance of the HeapMemoryUsage Mbean
            memoryMbean = jmxCon.getMBeanServerConnection().getAttribute(new ObjectName("java.lang:type=Memory"), "HeapMemoryUsage");
            cd = (CompositeData) memoryMbean;

            //get an instance of the OperatingSystem Mbean
            osMbean = jmxCon.getMBeanServerConnection().getAttribute(new ObjectName("java.lang:type=OperatingSystem"),"ProcessCpuTime");

            //get an instance of the kafka metrics Mbean
            consumerBean = jmxCon.getMBeanServerConnection().getAttribute(new ObjectName("kafka.consumer:type=consumer-fetch-manager-metrics"),"MaxLag");
            cd = (CompositeData) consumerBean;

            consumerBeanII = jmxCon.getMBeanServerConnection().getAttribute(new ObjectName("kafka.server:type=FetcherLagMetrics,name=ConsumerLag"),"Lag");


            System.out.println("Used memory: " + " " + cd.get("MaxLag") + " Used cpu: " + consumerBean); //print memory usage

            tempMemory = tempMemory + Long.parseLong(cd.get("used").toString());
            Thread.sleep(1000); //delay for one second

        }

它在consumerBean =上失败了……......有人可以解释或提供使用jmx / JMI实现访问kafka指标的正确方法吗?

1 个答案:

答案 0 :(得分:1)

我不确定您的Kafka版本,但是当我使用JConsole查看我的(v1.1.0)时,您所描述的没有这样的bean来解决消费者的延迟。因此,我认为您的JMX查询将会失败。

相反,我相信这类信息已移至Kafka Admin API界面。因此,如果您不想使用kafka-consumer-groups.sh命令行实用程序,则必须立即使用它来获取滞后设置。

对于我们来说,我们只需要这些统计信息即可进行监视,因此我们使用https://github.com/danielqsj/kafka_exporter来获取有关普罗米修斯的信息。

相关问题