Лучший способ использования потоков Кафки для разных процессов в одном приложении - PullRequest
0 голосов
/ 07 декабря 2018

Я хочу реализовать механизм зеркалирования между брокерами kafka и найти потоки kafka как хорошее решение для этого.

Но пока у меня есть один открытый вопрос: должен ли я использовать один объект kafka streams для всех тем, которые я хочу отразить, или лучше создать отдельный экземпляр для каждой темы.

Второй подход имеетНесколько преимуществ, все процессы зеркального отображения будут слабосвязанными, и если один из них не удастся, другие будут работать.Также каждое зеркалирование может быть настроено по-разному, что приятно.Он не будет использовать один пул потоков для всех тем, загруженных и не загруженных.Хотя он имеет очевидный недостаток - я должен использовать выделенный application.id для каждого процесса.

Так каков наилучший путь с точки зрения концепции потоков kafka?Так как количество тем, которые должны быть отражены, может быть более 100 с высокой нагрузкой на каждую.

РЕДАКТИРОВАТЬ: вопрос не в решении по зеркальному отображению, а в наилучшем способе использования потоков kafka для различных процессов в одном приложении.

...