JSON исходное поле преобразуется в метку времени вместо строки в Spark 3.0 - PullRequest
0 голосов
/ 14 июля 2020

Я изменил настройки искры (spark. sql. json .inferTimestamp false), чтобы сбросить поведение по умолчанию, но все равно он преобразуется как метка времени и выбирает только поле даты.

например поле содержит значение «2020-04-01T18: 59: 58.776171Z IJKU00066F68.mn c .com - - - [aaaa@6876 filepath =» D: \ ApplData \ yyy \ logs \ log-20200401-93.log "] 2020-04-01 14: 59: 54.514 sev = INF", но когда я выбрал его из файла, я увидел только значение отметки времени "2020-04-01T18: 59: 58.7761 + 0000"

код это

удаление таблицы, если существует abc; создать таблицу ab c, используя параметры org. apache .spark. sql. json (path '', multiline = 'true'); выберите totalfields.text из abc;

...