Ошибка импорта AWS Glue: невозможно импортировать имя explode_outer - PullRequest
0 голосов
/ 17 января 2019

Когда я пытаюсь запустить искровое задание в AWS Glue, появляется следующее сообщение об ошибке.

ImportError: cannot import name explode_outer

Если я запускаю тот же код в локальной настройке спарк, все работает нормально.

Вот так я импортирую explode_outer в коде.

from pyspark.sql.functions import explode_outer

Есть ли какие-либо ограничения в упаковке AWS Glue?

Ответы [ 2 ]

0 голосов
/ 22 января 2019

Лучше использовать Apache Spark 2.2.1 в локальной настройке. Вы можете написать собственную версию метода explode_outer ()

0 голосов
/ 17 января 2019

AWS Glue поддерживает Apache Spark 2.2.1 на данный момент. Упомянутая функция доступна с версии 2.3.

...