将Hadoop FS中的所有JARS添加到MapReduce类路径中

时间:2016-01-14 10:09:43

标签: java hadoop mapreduce hdfs

是否有任何方法接受目录路径并将所有jar文件添加到map-reduce作业的类路径中?

我所知道的是DistributedCache.addFileToClassPath(file, conf),但似乎这只适用于单个文件。在我的情况下,我在一个目录中需要所有JAR文件,我希望所有这些都在我的MR工作的类路径中。

此外,我希望通过我的java程序完成此操作,我在其中使用hadoop API提交作业,而不是通过命令提示符提交。

1 个答案:

答案 0 :(得分:0)

您可以使用“-libjars”为hadoop提供所有库。您只需要在执行命令中添加它和库的位置