Spark - эффективный способ чтения нескольких версий объекта S3 в DataFrame - PullRequest
0 голосов
/ 20 февраля 2019

Я хочу прочитать N последних версий объекта S3 и поместить их все в структуру Map [version, DataFrame].Каждый объект S3 представляет собой файл строк json размером примерно 2 ГБ каждый.Насколько я вижу, клиент S3A не поддерживает передачу versionId, поэтому я не могу использовать этот подход.Кто-нибудь может предложить эффективный альтернативный подход?Единственное, о чем я могу думать, - это создать обычный клиент AmazonS3 и получить объект S3 с помощью SDK.Однако я не слишком разбираюсь в Spark / Scala и не уверен, как потом преобразовать его в DataFrame.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...