PYSPARK_PYTHON环境变量是否仅适用于登录用户?

时间:2018-06-03 14:20:58

标签: apache-spark pyspark

这可能更像是一个Linux问题,但我正在运行一个带有UDF的Pyspark作业,这个UDF依赖于Python3的内置模块(而不是Python2)。所以,基本上是工作炸弹,因为执行器/驱动程序正在运行Python2。无论如何,我想将PYSPARK_PYTHON环境变量设置为使用Python3,但我在其他人用来执行Pyspark作业的系统上。我使用特定的用户帐户来执行我的工作,所以我只想确定是否设置了PYSPARK_PYTHON变量,它只适用于我的帐户,而不是其他人如果执行者python版本突然可能会影响由于我的设定而改变了。

0 个答案:

没有答案