режим кластера spark-submit в пользовательской файловой системе пряжи - PullRequest
0 голосов
/ 02 ноября 2019

Если у меня есть своя собственная пользовательская файловая система Hadoop, доступная для контейнеров Yarn для локализации (то есть префикс coolfs://), могу ли я отправить URI с этим префиксом в --jars с spark-submit?

Документамипредположить, что существует ограниченное подмножество допустимых префиксов, но есть ли какой-либо префикс, который сопоставляется с активной файловой системой, которую Yarn может локализовать, из допустимого при запуске искры в режиме кластера на Yarn?

https://spark.apache.org/docs/latest/submitting-applications.html#advanced-dependency-management

...