Получение ошибки kafka.KafkaInputFormat: не удается сгенерировать полное разделение сканирования - PullRequest
1 голос
/ 01 мая 2019

При запросе потока Kafka из таблицы Hive External мы получаем значение Timeout в Beeline.Просматривая журналы сервера улья, он выдает эти сообщения об ошибках

2019-05-01T14: 27: 09,725 WARN [pool-226-thread-1] kafka.RetryUtils:
Повторная попытка (15) в 1,353 мс.java.lang.NoSuchMethodError: org.apache.kafka.clients.consumer.KafkaConsumer.partitionsFor (Ljava / lang / String;) Ljava / util / List;

, за которым следует

ОШИБКА [08693181-1964-4d87-bf5a-7d628b4f9e43 HiveServer2-HttpHandler-Pool: Thread-89] kafka.KafkaInputFormat: не удается создать разделение полного сканирования

Попытка отправки более простой структуры JSON

Пробовал с и без свойства таблицы

"kafka.serde.class" = "org.apache.hadoop.hive.serde2.JsonSerDe",

CREATE EXTERNAL TABLE rs_table2
(id int,
first_name string,
last_name string)
STORED BY 'org.apache.hadoop.hive.kafka.KafkaStorageHandler'
TBLPROPERTIES
("kafka.topic" = "xxxxx", 
"kafka.bootstrap.servers"="xxxxxx:9092",
"kafka.consumer.group.id"="1", 
"session.timeout.ms"="30000",
"kafka.serde.class"="org.apache.hadoop.hive.serde2.JsonSerDe",
"kafka.consumer.partition.assignment.strategy"="range"
);

Я ожидаю, что запрос выведет данные в поток

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...