Как включить jar зависимостей в шаг emr для линии данных? - PullRequest
0 голосов
/ 02 апреля 2019

У меня есть шаг EMR Spark в пределах DataPipeline.Команда шага:

   command-runner.jar,spark-submit,--deploy-mode,client,--conf,spark.yarn.executor.memoryOverhead=8192,--class,com.my.class,s3://path/to/jar/myJar.jar,--arg1,arg1

Можно ли каким-либо образом добавить некоторые jar-файлы зависимостей в путь к классам времени выполнения (не включая их в файл jar --class)?Например, хранить jar-файлы в S3 и ссылаться на них с помощью команды?

...