oozie工作流激发特定队列上的启动作业

时间:2017-07-12 10:40:08

标签: apache-spark oozie oozie-workflow

我有一个oozie配置:

 <spark xmlns="uri:oozie:spark-action:0.1">
        <job-tracker>${jobTracker}</job-tracker>
        <name-node>${nameNode}</name-node>
        <configuration>
            <property>
                <name>mapred.job.queue.name</name>
                <value>batch_2</value>
            </property>
            <property>
                <name>job.queue.name</name>
                <value>batch_1</value>
            </property>

        </configuration>
        <master>yarn-cluster</master>
        <mode>cluster</mode>
        <name>Batch Search Oozie</name>
        <class>eu.inn.ilms.batchSearch.BatchSearch</class>
        <jar>hdfs:///user/oozie/workflows/batchsearch/lib/batchSearch-0.0.1-SNAPSHOT.jar
        </jar>
        <arg>${zookeeperQuorum}</arg>
        <arg>${solrQuery}</arg>
        <arg>${hdfsFolderPaths}</arg>
        <arg>${solrFinalCollection}</arg>
        <arg>${mongoServiceUrl}</arg>
    </spark>

map-reduce作业在我想要的队列上执行。 但是火花作业仍然在默认情况下执行。是否有允许我设置此属性的属性?

1 个答案:

答案 0 :(得分:1)

使用spark-opts代码:

<spark-opts> --queue ${queue_name} </spark-opts>