Действие оболочки Oozie, генерирующее исключение NullPointerException для искровой работы - PullRequest
Новая
       22

Действие оболочки Oozie, генерирующее исключение NullPointerException для искровой работы

0 голосов
/ 04 декабря 2018

У меня есть скрипт оболочки с командой spark-submit для запуска с использованием действия оболочки oozie.

Oozie может запустить команду spark-submit из сценария оболочки, но при развертывании в пряже задание не выполняется.

Помощь очень ценится.

Броски заданий ниже NullPointerException: 

Exception in thread "main" java.lang.NullPointerException
    at scala.collection.mutable.ArrayOps$ofRef$.length$extension(ArrayOps.scala:114)
    at scala.collection.mutable.ArrayOps$ofRef.length(ArrayOps.scala:114)
    at scala.collection.IndexedSeqOptimized$class.foreach(IndexedSeqOptimized.scala:32)
    at scala.collection.mutable.ArrayOps$ofRef.foreach(ArrayOps.scala:108)
    at org.apache.spark.deploy.yarn.Client$$anonfun$createConfArchive$2$$anonfun$apply$6.apply(Client.scala:540)
    at org.apache.spark.deploy.yarn.Client$$anonfun$createConfArchive$2$$anonfun$apply$6.apply(Client.scala:537)
    at scala.collection.immutable.List.foreach(List.scala:318)
    at org.apache.spark.deploy.yarn.Client$$anonfun$createConfArchive$2.apply(Client.scala:537)
    at org.apache.spark.deploy.yarn.Client$$anonfun$createConfArchive$2.apply(Client.scala:536)
    at scala.collection.immutable.List.foreach(List.scala:318)
    at org.apache.spark.deploy.yarn.Client.createConfArchive(Client.scala:536)
    at org.apache.spark.deploy.yarn.Client.prepareLocalResources(Client.scala:495)
    at org.apache.spark.deploy.yarn.Client.createContainerLaunchContext(Client.scala:727)
    at org.apache.spark.deploy.yarn.Client.submitApplication(Client.scala:143)
    at org.apache.spark.deploy.yarn.Client.run(Client.scala:1018)
    at org.apache.spark.deploy.yarn.Client$.main(Client.scala:1078)
    at org.apache.spark.deploy.yarn.Client.main(Client.scala)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)
    at org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:730)
    at org.apache.spark.deploy.SparkSubmit$.doRunMain$1(SparkSubmit.scala:181)
    at org.apache.spark.deploy.SparkSubmit$.submit(SparkSubmit.scala:206)

Workflow.xml: 

<workflow-app name="test-job" xmlns="uri:oozie:workflow:0.5">
 <start to="shell-node"/>
<action name="shell-node">
    <shell xmlns="uri:oozie:shell-action:0.2">
        <job-tracker>${jobTracker}</job-tracker>
         <name-node>${nameNode}</name-node>
         <configuration>
            <property>
                <name>mapred.job.queue.name</name>
                <value>${queueName}</value>
            </property>
        </configuration>
        <exec>${myscript}</exec>
        <file>${myscriptPath}</file><file>hdfs://<HDFS_PATH>/application.properties#application.properties</file><file>hdfs://<HDFS_PATH>/test-job.jar#test-job.jar</file><file>hdfs://<HDFS_PATH>/myusr.keytab#myusr.keytab</file>
       <capture-output/>
       </shell>
       <ok to="end"/>
       <error to="fail"/>
       </action>
      <kill name="fail">
       <message>Shell action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
     </kill>
    <kill name="fail-output">
    <message>Incorrect output, expected [Hello Oozie] but was [${wf:actionData('shell-node')['my_output']}]</message>
</kill>
<end name="end"/>

1 Ответ

0 голосов
/ 04 декабря 2018

Проблема решена добавлением двух системных параметров.HADOOP_CONF_DIR = / etc / hadoop / conf YARN_CONF_DIR = / etc / hadoop / conf

Обновлено workflow.xml: 

<workflow-app name="test-job" xmlns="uri:oozie:workflow:0.5">
<credentials>
<credential name="hcat" type="hcat">
    <property>
        <name>hcat.metastore.uri</name>
        <value>${hcatMetastoreUri}</value>
    </property>
    <property>
        <name>hcat.metastore.principal</name>
        <value>${hcatMetastorePrincipal}</value>
    </property>
</credential>
<credential name="hive2" type="hive2">
    <property>
        <name>hive2.jdbc.url</name>
        <value>${hive2JdbcUrl}</value>
    </property>
    <property>
        <name>hive2.server.principal</name>
        <value>${hive2ServerPrincipal}</value>
    </property>
</credential>
</credentials>
<start to="shell-node"/>
<action name="shell-node" cred="hcat, hive2">
<shell xmlns="uri:oozie:shell-action:0.2">
      <job-tracker>${jobTracker}</job-tracker>
      <name-node>${nameNode}</name-node>
     <configuration>
        <property>
            <name>mapred.job.queue.name</name>
            <value>${queueName}</value>
        </property>
    </configuration>
    <exec>${myscript}</exec>
    <env-var>HADOOP_CONF_DIR=/etc/hadoop/conf</env-var>
    <env-var>YARN_CONF_DIR=/etc/hadoop/conf</env-var>
    <file>${myscriptPath}</file><file>hdfs://<HDFS_PATH>/application.properties#application.properties</file><file>hdfs://<HDFS_PATH>/test-job.jar#test-job.jar</file><file>hdfs://<HDFS_PATH>/myusr.keytab#myusr.keytab</file>
   <capture-output/>
   </shell>
   <ok to="end"/>
   <error to="fail"/>
   </action>
  <kill name="fail">
   <message>Shell action failed, error message[${wf:errorMessage(wf:lastErrorNode())}]</message>
 </kill>
<kill name="fail-output">
<message>Incorrect output, expected [Hello Oozie] but was [${wf:actionData('shell-node')['my_output']}]</message>

...