Как обрабатывать пустые значения в массиве элементов структуры в pyspark - PullRequest
0 голосов
/ 08 апреля 2020

У нас есть данные в столбце в фрейме данных pyspark с массивом типа структуры, имеющим несколько вложенных полей. Если значение не пустое, данные будут сохранены в том же массиве типа структуры в таблице дельта-искры.

пожалуйста, сообщите о нижеследующем случае:

, если тот же столбец становится пустым, он обрабатывается как массив в кадре данных.

f тот же столбец, который поступает как массив элементов структуры, он в порядке.

Не могли бы вы порекомендовать, как мы обрабатываем этот сценарий в pyspark, чтобы избежать ошибки "Не удалось объединить несовместимые типы данных StructType (StructField (ac ............. ......... и StringType

как мы обрабатываем массив структурного типа и массив в одном столбце

Спасибо

...