Можем ли мы запустить spark на мезо, используя предварительно скомпилированный пакет hadoop-spark? - PullRequest
0 голосов
/ 26 декабря 2018

У меня есть кластер Mesos, на котором я хочу запускать задания Spark.

Я скачал предварительно скомпилированный пакет spark и могу использовать оболочку spark, просто распаковав архив.

До сих пор мне не удавалось запускать спарк-задания на кластере Mesos.

Первый вопрос : Нужно ли устанавливать и собирать Spark из исходного кода, чтобы он работал на Mesos?И используется ли этот предварительно скомпилированный пакет только для Spark на Yarn и Hadoop?

Второй вопрос : Может ли кто-нибудь предоставить лучший способ создания искры.Я нашел много способов, как:

  • sbt clean assembly
  • ./build/mvn -Pmesos -DskipTests clean package
  • ./build/sbt package

Я незнать, какой из них использовать, и все ли они правильные или нет.

...