Как использовать все vcores в большом 8-узловом кластере R3 2X - PullRequest
0 голосов
/ 06 декабря 2018

В моей работе с искрой используется только 32 Vcores из 127.Пожалуйста, обратитесь к изображению ниже.cluster_metrics

Моя команда spark-submit: spark-submit --executor-memory 12G --num-executors 32 --executor-cores 3 --conf spark.executor.memoryOverhead = 1.5g

Как настроить параметры spark-submit для использования всех ресурсов, доступных в кластере.

...