Spark-kafka: org.apache.kafka.common.errors.TimeoutException при записи потока из Spark - PullRequest
Новая
       38

Spark-kafka: org.apache.kafka.common.errors.TimeoutException при записи потока из Spark

0 голосов
/ 12 сентября 2018

У меня возникла проблема при написании потока на тему из Spark. 

import org.apache.spark.sql.types._

val mySchema = StructType(Array(
  StructField("ID", IntegerType),
  StructField("ACCOUNT_NUMBER", StringType)
))

val streamingDataFrame = spark.readStream.schema(mySchema).option("delimiter",",")
                              .csv("file:///opt/files")


streamingDataFrame.selectExpr("CAST(id AS STRING) AS key", "to_json(struct(*)) AS value")
                  .writeStream.format("kafka")
                  .option("topic", "testing")
                  .option("kafka.bootstrap.servers", "10.55.55.55:9092")
                  .option("checkpointLocation", "file:///opt/")
                  .start().awaitTermination()

Ошибка: 

 2018-09-12 11:09:04,344 ERROR executor.Executor: Exception in task 0.0 in stage 0.0 (TID 0)
org.apache.kafka.common.errors.TimeoutException: Expiring 38 record(s) for testing-0: 30016 ms has passed since batch creation plus linger time
2018-09-12 11:09:04,358 WARN scheduler.TaskSetManager: Lost task 0.0 in stage 0.0 (TID 0, localhost, executor driver):                                            org.apache.kafka.common.errors.TimeoutException: Expiring 38 record(s) for testing-0: 30016 ms has passed since batch creation plus linger time
2018-09-12 11:09:04,359 ERROR scheduler.TaskSetManager: Task 0 in stage 0.0 failed 1 times; aborting job
2018-09-12 11:09:04,370 ERROR streaming.StreamExecution: Query [id = 866e4416-138a-42b6-82fd-04b6ee1aa638, runId = 4dd10740-29dd-4275-97e2-a43104d71cf5] terminated with error
 org.apache.spark.SparkException: Job aborted due to stage failure: Task 0 in stage 0.0 failed 1 times, most recent failure: Lost task 0.0 in stage 0.0 (TID 0, localhost, executor driver):   org.apache.kafka.common.errors.TimeoutException: Expiring 38 record(s) for testing-0: 30016 ms has passed since batch creation plus linger time

Driver stacktrace:
    at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$DAGScheduler$$failJobAndIndependentStages(DAGScheduler.scala:1499)
    at org.apache.spark.scheduler.DAGScheduler$$anonfun$abortStage$1.apply(DAGScheduler.scala:1487)
    at org.apache.spark.scheduler.DAGScheduler$$anonfun$abortStage$1.apply(DAGScheduler.scala:1486)
    at scala.collection.mutable.ResizableArray$class.foreach(ResizableArray.scala:59)

Мои данные sbt: 

libraryDependencies += "org.apache.spark" %% "spark-sql-kafka-0-10" % "2.2.0"

libraryDependencies += "org.apache.kafka" % "kafka-clients" % "0.10.0.0"

Но когда я отправляю сообщение через сервер, используя bin/kafka-console-producer.sh и bin/kafka-console-consumer.sh, я могу отправлять и получать сообщение

1 Ответ

0 голосов
/ 12 сентября 2018

Вам необходимо увеличить значение request.timeout.ms на стороне клиента.

Кафка группирует записи в пакеты для увеличения пропускной способности. Когда в пакет добавляется новая запись, она должна быть отправлена ​​в срок. request.timeout.ms - это настраиваемый параметр (значение по умолчанию - 30 с), который контролирует этот срок.

Когда пакет находится в очереди на более длительный период, a TimeoutException выбрасывается, и записи будут удаляться из очереди (и, следовательно, сообщения не будут доставлены).

...