Я пытаюсь прочитать тему Кафки с помощью потоковой передачи и извлечь значения в формате json. У меня есть следующие сообщения в теме Кафки в формате json, но они не разделяются запятой.
Как мне извлечь значения id и сообщения:
{
"id":"20168374652257"
"message":"testFromPubSub2018_09_18_22"
}
Я пробовал приведенный ниже код, но он дает нулевые значения, поскольку он не разделен запятой:
val kafka_data =df.select($"value" cast "string" as "value").
select(get_json_object($"value", "$.id").as("id"),
get_json_object($"value", "$.message").as("message"))
Заранее спасибо