Как указать временный каталог Spark на другую файловую систему в EMR - PullRequest
0 голосов
/ 10 января 2019

В моем искровом кластере EMR на основных компьютерах размер тома EBS составляет 128 ГБ. Моя программа Spark выдает ошибку «Нет места на устройстве». Итак, я хочу, чтобы EMR указывал временный каталог, который использует spark, на другую файловую систему "/ dev / xvdb2". Как я могу это сделать?

Ниже приведен вывод одного из моих основных компьютеров.

Filesystem      Size  Used Avail Use% Mounted on
devtmpfs         34G   78k   34G   1% /dev
tmpfs            34G     0   34G   0% /dev/shm
/dev/xvda1       11G  4.3G  6.1G  42% /
/dev/xvdb1      5.4G   35M  5.4G   1% /emr
/dev/xvdb2      133G   12G  121G   9% /mnt
...