apache-spark - Spark Yarn / tmp没有这样的文件或目录

我在火花作业中遇到错误，它们的错误通常类似于下面所示的错误。集群中的节点有大约256 GB的内存和大约8个内核，我还指定了执行程序内存为4GB和额外的4GB开销。对于shuffle，我已经将内存分数指定为0.5，所有这些我想表明它看起来不像内存问题。然而，我无法弄清楚可能会出现什么问题，这会在一个或另一个阶段出现，我多次重复我的工作，这是多点的。您可以假设我们拥有大约200多个节点的基础设施，并且配置正常。

由于阶段失败而导致作业中止：阶段2.0中的任务0失败12次，最近失败：阶段2.0中失去的任务0.11（TID 27，lgpbd1107.sgp.ladr.com）：java.io.FileNotFoundException：/ tmp / hadoop-mapr / nm-local-dir / usercache / names / appcache / application_1485048538020_113554 / 3577094671485456431296_lock（没有这样的文件或目录）

我无法弄清楚它的问题是否与应用程序或基础架构有关。有人可以帮忙。

It is due to the tmpwatch utility,每天在CentOS系统上运行以清理最近未访问的/tmp/files。 NodeManager服务在启动作业时不会重新创建顶级hadoop.tmp.dir（默认为/tmp/hadoop-${user.name}）。

现在您有两个选择：

选项-1： 转到/etc/cron.daily/tmp-watch并将此目录排除在每日清理之外。 /tmp/hadoop-mapr/nm-local-dir/filecache

选项-2： 转到

core-site.xml并添加/更改hadoop.tmp.dir属性的值---默认为/tmp/hadoop-${user.name}

或

yarn-site.xml并添加/更改yarn.nodemanager.local-dirs属性的值---默认为${hadoop.tmp.dir}/nm-local-dir

Spark Yarn / tmp没有这样的文件或目录

1 个答案: