Spark в Java - как выполнить модульное тестирование sparkSession.read.load? - PullRequest
0 голосов
/ 07 июня 2019

sparkSession.read().load("some_path") означает чтение файла паркета, сохраненного в HDFS или S3, при локальном запуске он выдает следующее исключение:

Caused by: java.lang.RuntimeException: file:/my_local_path/local_file is not a Parquet file. expected magic number at tail ...

Как выполнить его локальное тестирование?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...