JSON не будет конвертироваться с JQ в Unix - PullRequest
Новая
       4

JSON не будет конвертироваться с JQ в Unix

0 голосов
/ 15 января 2020

С трудом преобразует это JSON. Это многострочный аналог того, что ниже. Пример данных в нижней части - это то, что читается как есть, после распаковки.

Пример того, что было опробовано: 

jq -r '(([["user_id","server_received_time","app","device_carrier","$schema","city","uuid","event_time","platform","os_version","amplitude_id","processed_time","user_creation_time","version_name","ip_address","paying","dma","group_properties","user_properties","client_upload_time","$insert_id","event_type","library","amplitude_attribution_ids","device_type","device_manufacturer","start_version","location_lng","server_upload_time","event_id","location_lat","os_name","amplitude_event_type","device_brand","groups","event_properties","data","device_id","language","device_model","country","region","is_attribution_event","adid","session_id","device_family","sample_rate","idfa","client_event_time"]]) + [(.table.All[] | [.user_id,.server_received_time,.app,.device_carrier,.$schema,.city,.uuid,.event_time,.platform,.os_version,.amplitude_id,.processed_time,.user_creation_time,.version_name,.ip_address,.paying,.dma,.group_properties,.user_properties,.client_upload_time,.$insert_id,.event_type,.library,.amplitude_attribution_ids,.device_type,.device_manufacturer,.start_version,.location_lng,.server_upload_time,.event_id,.location_lat,.os_name,.amplitude_event_type,.device_brand,.groups,.event_properties,.data,.device_id,.language,.device_model,.country,.region,.is_attribution_event,.adid,.session_id,.device_family,.sample_rate,.idfa,.client_event_time])])[]|@csv' test.json > test.csv

, а также некоторые другие параметры jq. Мне нужен каждый столбец независимо от значения, и значения как есть. У кого-нибудь есть мысли о том, почему мы сталкиваемся с проблемами? Одна ошибка, которую мы получаем: 

jq: error: try .["field"] instead of .field for unusually named fields at <top-level>, line 1:

Другие строки jq дали следующую ошибку: 

string (...) cannot be csv-formatted, only array

Это выдержка из одного из JSON файлов: 

{"groups":{},"country":"United States","device_id":"3d-88c-45-b6-ed81277eR","is_attribution_event":false,"server_received_time":"2019-12-17 17:29:11.113000","language":"English","event_time":"2019-12-17 17:27:49.047000","user_creation_time":"2019-11-08 13:15:32.919000","city":"Sure","uuid":"someID","device_model":"Windows","amplitude_event_type":null,"client_upload_time":"2019-12-17 17:29:21.958000","data":{},"library":"amplitude-js\/5.2.2","device_manufacturer":null,"dma":"Washington, DC (Townville, USA)","version_name":null,"region":"Virginia","group_properties":{},"location_lng":null,"device_family":"Windows","paying":null,"client_event_time":"2019-12-17 17:27:59.892000","$schema":12,"device_brand":null,"user_id":"email@gmail.com","event_properties":{"title":"Name","id":"1-253251","applicationName":"SomeName"},"os_version":"18","device_carrier":null,"server_upload_time":"2019-12-17 17:29:11.135000","session_id":1576603675620,"app":231165,"amplitude_attribution_ids":null,"event_type":"CHANGE_PERSPECTIVE","user_properties":{},"adid":null,"device_type":"Windows","$insert_id":"e308c923-d8eb-48c6-8ea5-600","event_id":24,"amplitude_id":515,"processed_time":"2019-12-17 17:29:12.760372","platform":"Web","idfa":null,"os_name":"Edge","location_lat":null,"ip_address":"123.456.78.90","sample_rate":null,"start_version":null}

Спасибо!

1 Ответ

1 голос
/ 15 января 2020

Есть несколько проблем с вашей попыткой.

Во-первых, ключи с "$" в именах не могут быть указаны с использованием сокращенного синтаксиса .foo; вместо этого вы можете использовать .["$foo"].

Во-вторых, @csv ожидает массив значений atomi c. Таким образом, ключи с JSON объектами в качестве значений должны обрабатываться специально.

В-третьих, «+» является неправильным. Соответствующий разъем здесь «,».

Для вашего образца JSON будет работать следующее: 

(["user_id","server_received_time","app","device_carrier","$schema","city","uuid","event_time","platform","os_version","amplitude_id","processed_time","user_creation_time","version_name","ip_address","paying","dma","group_properties","user_properties","client_upload_time","$insert_id","event_type","library","amplitude_attribution_ids","device_type","device_manufacturer","start_version","location_lng","server_upload_time","event_id","location_lat","os_name","amplitude_event_type","device_brand","groups","event_properties","data","device_id","language","device_model","country","region","is_attribution_event","adid","session_id","device_family","sample_rate","idfa","client_event_time"]),

([.user_id,.server_received_time,.app,.device_carrier,.["$schema"],.city,.uuid,.event_time,.platform,.os_version,.amplitude_id,.processed_time,.user_creation_time,.version_name,.ip_address,.paying,.dma,.group_properties,.user_properties,.client_upload_time,.["$insert_id"],.event_type,.library,.amplitude_attribution_ids,.device_type,.device_manufacturer,.start_version,.location_lng,.server_upload_time,.event_id,.location_lat,.os_name,.amplitude_event_type,.device_brand,.groups,.event_properties,.data,.device_id,.language,.device_model,.country,.region,.is_attribution_event,.adid,.session_id,.device_family,.sample_rate,.idfa,.client_event_time]
 | map(if type=="object"
       then to_entries
       | map( "\(.key):\(.value)" )
       | join(";")
       else . end))
| @csv

Менее подверженное ошибкам решение

Указание длинный список ключей в два раза делает вышеуказанное решение подверженным ошибкам. Было бы лучше указать ключи только один раз, а затем программно сгенерировать строки.

Вот вспомогательная функция, которая может использоваться для этой цели: 

def toa($headers):
  . as $in | $headers | map($in[.]);

Или вы можете обработать ключи с объектными значениями внутри toa: 

def toa($headers):
  def flat: 
     if type == "object" or type == "array"
     then to_entries | map( "\(.key):\(.value)" ) | join(";") 
     else .
     end;
  . as $in | $headers | map($in[.] | flat);

JSONL

Если входные данные представляют собой поток JSON объектов типа, показанного в вопросе, эффективное решение будет использовать inputs с параметром командной строки -n. Это может быть примерно так: 

print_header,
(inputs | print_row)
...