Я пытаюсь создать столбец с нулевыми значениями в искре, но НЕ с нулевым типом данных.
Так что
sqlContext.sql("select null as newcol from db.table")
не будет работать, так как установит тип данных newcol какноль.
sqlContext.sql("select cast(null as newcol as string) from db.table")
Не будет работать, потому что он сделает все значения "нулевыми" как строковое представление из 4 символов.
Как я могу это сделать?
Конечной целью являетсязапишите это в csv, который не поддерживает пустой тип столбца, и мне нужно, чтобы фактические значения в кадре данных были нулевыми, а не пустыми строками.