如何检索hadoop作业图/减少输入/输出计数

时间:2015-02-26 13:43:39

标签: hadoop

有没有办法在运行hadoop作业后检索并打印减少输出记录的数量? 我迭代地运行map-reduce,我希望在我之前的减少输出计数与当前地图输出计数相同时停止。

1 个答案:

答案 0 :(得分:1)

根据您的Hadoop版本,名称可能不同。 但一般来说,您可以从作业对象访问您的计数器。

job.getCounters().findCounter("org.apache.hadoop.mapred.Task$Counter", 
           "REDUCE_OUTPUT_RECORDS").getValue();

咨询WebUI以查看作业中定义的计数器,相应地更改名称。