Mapreduce工作:没有减速器的组合器

时间:2013-05-04 11:54:33

标签: hadoop mapreduce reducers combiners

我注意到如果我将减速器的数量设置为0,则组合器将无法工作。是否可以使用不带减速机的组合器?感谢。

2 个答案:

答案 0 :(得分:2)

不,不是。即使使用指定的减速器,也不能保证使用组合器。因此,组合器是严格优化的,可以但不一定在Reducers之前调用。如果没有减速器,就永远不会召唤它们。

答案 1 :(得分:1)

组合器的整个目的是“组合”。映射器输入的一部分,以便映射输出在发送到reducer时消耗较少的网络带宽。没有减速器,使用合成器的整个要点就没有实际意义。因此,不,这是不可能的。