если существует Перезаписать разделы или создать новое в s3 bucket с помощью Glue - PullRequest
0 голосов
/ 06 марта 2020

У меня есть задание Glue, которое выполняется ежедневно, я ищу функцию, которая перезаписывает разделы или создает новое в корзине s3 с помощью Gluedynamically. Ниже приведен мой скрипт pyspark для записи данных в корзину S3

glueContext.write_dynamic_frame.from_options(
            frame=df ,
            connection_type="s3",
            connection_options={"path": output, "partitionKeys": ["date"]},
            format="json")

Любая перезаписать динамически функцию в клей

...