количество полей и формат формата темы kafka - PullRequest
0 голосов
/ 08 января 2019

Работая над созданием новой темы Кафки для некоторой информации, которой вы можете поделиться, не могли бы вы помочь с лучшими отраслевыми практиками:

количество полей? Может ли тема Кафки быть размером с 200 полей?
Используемый формат сообщения (Avro / JSON?)
Срок хранения

1 Ответ

0 голосов
/ 08 января 2019

Кафка не имеет представления о количестве полей. Это система обмена сообщениями на основе журнала, в которой каждое событие представляет собой запись, содержащую ключ, значение и метку времени.

В теме Kafka могут быть события с максимальным размером, определенным в конфигурации message.max.bytes. По умолчанию установлено значение 1 MB, что означает, что один размер события не может превышать 1 МБ. Но вы можете изменить значение по своему усмотрению и хранить столько данных, сколько хотите (содержащих 100 200 300 или около того).

P.S. Kafka не рекомендуется хранить большое сообщение (т. Е. 50 МБ).

Что касается формата сообщений, Avro довольно популярен среди других форматов данных, но это зависит от вашего делового использования. Avro компактен и поддерживает схему развития.

Вот несколько полезных моментов для сравнения форматов данных. https://www.confluent.io/blog/avro-kafka-data/

...