Azure Data Explorer / kusto слабо типизированная стратегия приема json - PullRequest
0 голосов
/ 21 декабря 2018

Я хотел бы получить файл журнала JSONND с плоской структурой, но с множеством возможных значений ключей;некоторые ключи являются общими, например «время», но другие различаются в зависимости от типа сообщения файла журнала.Какую стратегию можно использовать для загрузки таких данных в Kusto / Azure Data Explorer?

Я рассмотрел следующее:

  • Делайте в столбцы только те ключи, которые всегда являются общими, и помещайте остальные как JSON в "динамический" тип данных;
  • предварительно проанализировать достаточно большую выборку данных, извлечь все возможные ключи и создать столбцы для каждого ключа, по умолчанию "string"

1 Ответ

0 голосов
/ 21 декабря 2018

Общий подход должен быть следующим:

  • Каждое свойство, которое вы планируете часто использовать в запросах (например, фильтрация, суммирование / и т. Д.), Должно быть выделено и строго типизировано.(не dynamic) столбец.Чтобы достичь этого, вы могли бы потенциально использовать пероральное отображение JSON (я предполагаю, что формат JSONND позволит вам это сделать, но ОТО Я не уверен, как выглядят ваши данные, так что выследует проверить, является ли это опцией), или политика обновления .
  • Свойства, к которым вы ожидаете реже обращаться, могут быть включены в пакет свойств, включенный в столбец dynamic (и вы можете получить к ним доступ во время запроса, как указано здесь ).
...