Hadoop验证块

时间:2012-07-02 04:43:29

标签: hadoop

启动hadoop时遇到问题。

DataBlockScanner最多占用一个CPU的100%。

主日志是:

  

2012-04-02 11:25:49,793 INFO org.apache.hadoop.hdfs.StateChange:    BLOCK NameSystem.processReport:从192.168.33.44:50010,块:16148,处理时间:13毫秒

奴隶日志是:

  

2012-04-02 11:09:34,109 INFO   org.apache.hadoop.hdfs.server.datanode.DataBlockScanner:验证   成功为blk_-1757906724564777881_10532084

我检查了hadoop fsck,发现没有错误或损坏。

为什么CPU使用率如此之高,以及如何停止块验证?

2 个答案:

答案 0 :(得分:0)

如果没有深入挖掘来确认,这可能只是启动时的问题,因为datanode必须树遍历数据目录(/ ies)以发现所有块,然后将它们报告给namenode。再次没有源我无法确认是否在启动时验证了每个块的校验和,这可能是100%CPU的原因。

答案 1 :(得分:0)

谢谢。我认为我的CPU使用率如此之高,因为闰秒。我认为问题是java。当我启动hadoop时,cpu使用率如此之高。

http://en.wikipedia.org/wiki/Leap_second