Я получаю сообщение об ошибке Kafka Connect HDFS коннектор, и данные не записываются в HDFS - PullRequest
1 голос
/ 08 мая 2019

Соединитель Kafka запускается нормально и читает поток данных в теме, однако он не записывает никаких данных, и когда я останавливаю соединитель, я получаю сообщение об ошибке

Я подтвердил тему иКаталог журналов создается в файловой системе HDFS

name=hdfs-sink
connector.class=io.confluent.connect.hdfs.HdfsSinkConnector
tasks.max=1
topics=rstest
#hdfs.url=adl:///
hdfs.url=hdfs://headnodehost
flush.size=3

Вот вывод с экрана

[2019-05-08 12: 08: 20,963] INFO Открытие записывающего устройства для: hdfs://headnodehost/topics//+tmp/rstest/partition=1/4ef1de96-bd7c-437c-b210-2ef6e62d3ead_tmp.avro (io.confluent.connect.hdfs.avro.AvroRecordWriterProvider: 66) ^ C [2019-05-0812: 08: 32,911] ИНФОРМАЦИЯ Остановка Kafka Connect (org.apache.kafka.connect.runtime.Connect: 65) [2019-05-08 12: 08: 32,913] ИНФОРМАЦИЯ Остановка REST-сервера (org.apache.kafka.connect.runtime.rest.RestServer: 211) [2019-05-08 12: 08: 32,918] ИНФОРМАЦИЯ Остановлена ​​http_8083 @ 6c03fb16 {HTTP / 1.1} {0.0.0.0:8083} (org.eclipse.jetty.server.ServerConnector: 306)[2019-05-08 12: 08: 32,958] Информация остановлена ​​oejsServletContextHandler @ 4e31c3ec {/, null, UNAVAILABLE} (org.eclipse.jetty.server.handler.ContextHandler: 865) [2019-05-08 12: 08: 32,960] Сервер INFO REST остановлен (org.apache.kafka.connect.runtime.rest.RestServer: 222) [2019-05-08 12: 08: 32,960] ИНФОРМАЦИЯ Остановка Гердера (org.apache.kafka.connect.runtime.standalone.StandaloneHerder: 77) [2019-05-08 12: 08: 32,960] ИНФОРМАЦИЯ Остановка задачи hdfs-sink-0 (org.apache.kafka.connect.runtime.Worker: 478) [2019-05-08 12: 08: 33,113] ОШИБКА Ошибка при отбрасывании временного файла hdfs: // headnodehost / themes // + tmp / rstest / partition = 1 / 4ef1de96-bd7c-437c-b210-2ef6e62d3ead_tmp.avro для раздела rstest-1 = 1 при закрытии TopicPartitionWriter: (io.confluent.connect.hdfs.TopicPartitionWriter: 451) org.apache.kafka.connect.errors.DataException: java.nio.chan.ClosedChannelException в io.confluent.connect.hdfs.avro.AvroRecordWriterProvider $ 1.close (AvroRecordWriterProvider.java:97)

...