Если у меня есть своя собственная пользовательская файловая система Hadoop, доступная для контейнеров Yarn для локализации (то есть префикс coolfs://
), могу ли я отправить URI с этим префиксом в --jars
с spark-submit
?
Документамипредположить, что существует ограниченное подмножество допустимых префиксов, но есть ли какой-либо префикс, который сопоставляется с активной файловой системой, которую Yarn может локализовать, из допустимого при запуске искры в режиме кластера на Yarn?
https://spark.apache.org/docs/latest/submitting-applications.html#advanced-dependency-management