Как получить одну запись за раз в коннекторе раковины Кафки - PullRequest
0 голосов
/ 30 октября 2019

Я использую Задачу Мойки Кафки для чтения записей из темы Кафки. Метод put () в SinkTask - это точка входа, из которой будут извлечены все записи. В настоящее время, когда соединитель запускается, он извлекает все записи, которые не зафиксированы. Я хочу, чтобы рабочая задача извлекала одну запись за раз. Как это сделать?

class CustomSinkTask extends SinkTask{

    @Override
        public void put(Collection<SinkRecord> records) {

            System.out.println("Inside put method " );
            if(records != null)
                System.out.println("number of records fetched are:" + records.size());
    }
}

Ответы [ 2 ]

0 голосов
/ 30 октября 2019

Этого можно добиться, установив максимальное число записей опроса в нужное число в файле свойств Kafka connect. Убедитесь, что у префикса свойства max.poll.records есть consumer. Чтобы узнать больше о свойствах работника, пожалуйста, обратитесь к этой странице.

consumer.max.poll.records=n

0 голосов
/ 30 октября 2019

Вы можете попробовать добавить следующее в файл свойств работника

conusmer.max.poll.records=1
...