Искра Исключение: не удалось выполнить задачу при записи строк - PullRequest
0 голосов
/ 03 апреля 2020

20/04/02 17:40:04 ПРЕДУПРЕЖДЕНИЕ TaskSetManager: потерянное задание 0.0 на этапе 9.0 (TID 82, wn1-p02las.naygignl0faevcmh3dqqy1bag c .gx.internal.cloudapp. net, исполнитель 3): org . apache .spark.SparkException: не удалось выполнить задачу при записи строк. в орг. apache .spark. sql .execution.datasources.FileFormatWriter $ .org $ apache $ spark $ sql $ исполнительный $ источники данных $ FileFormatWriter $$ executeTask (FileFormatWriter. scala: 285) в орг. apache .spark. sql .execution.datasources.FileFormatWriter $$ anonfun $ write $ 1.apply (FileFormatWriter. scala: 197) в org. apache .spark. sql .execution.datasources.FileFormatWriter $$ anonfun $ write $ 1.apply (FileFormatWriter. scala: 196) в org. apache .spark.scheduler.ResultTask.runTask (ResultTask. scala: 87) в org. apache .spark.scheduler.Task .run (Задача. scala: 109) в орг. apache .spark.executor.Executor $ TaskRunner.run (Исполнитель. scala: 345) в java .util.concurrent.ThreadPoolExecutor.runWorker (ThreadPoolExecutor . java: 1149) в java .util.concurrent.ThreadPoolExecutor $ Worker.run (ThreadPoolExecutor. java: 624) в java .lang.Thread.run (Thread. java: 748) Причина by: java .io.FileNotFoundException: Операция не выполнена: «Указанный путь не существует.», 404, PUT, https://ss.dfs.core.windows.net/ss/raw/data/Ingest/json/_temporary/0/_temporary/attempt_20200402174004_0009_m_000000_0/event_type%3Destreamer/year%3D2020/month%3D04/day%3D02/part-00000-7d41191c-0199-48fd-810b-8f8384b989ce.c000.json?action=flush&retainUncommittedData=false&position=17249678&timeout=90, PathNotFound, «Указанный путь не существует ист. RequestId: 5bb791f0-501f-003b-3515-09a7dd000000 Время: 2020-04-02T17: 40: 04.6815895Z "в орг. *: 338) в орг. apache .had oop .fs.azurebfs.services.AbfsOutputStream.flushWrittenBytesToService (AbfsOutputStream. java: 320) в орг. apache .had oop .fs.azurebfs. services.AbfsOutputStream.flushInternal (AbfsOutputStream. java: 261) в орг. apache .had oop .fs.azurebfs.services.AbfsOutputStream.close (AbfsOutputStream. java: 244) в орг. * 10 .had oop .fs.FSDataOutputStream $ PositionCache.close (FSDataOutputStream. java: 72) в орг. apache .had oop .fs.FSDataOutputStream.close (FSDataOutputStream. java: 106) на солнце .nio.cs.StreamEncoder.implClose (StreamEncoder. java: 320) в sun.nio.cs.StreamEncoder.close (StreamEncoder. java: 149) в java .io.OutputStreamWriter.close (OutputStreamWriter. java: 233) на com.faster xml .jackson.core. json .WriterBasedJsonGenerator.close (WriterBasedJsonGenerator. * 105 4 *: 926) в орг. apache .spark. sql .catalyst. json .JacksonGenerator.close (JacksonGenerator. scala: 217) в орг. .datas. в орг. apache .spark. sql .execution.datasources.FileFormatWriter $ DynamicPartitionWriteTask.execute (FileFormatWriter. scala: 564) в орг. apache .spark. sql .execution.datasources.FileFormatWriter $ anonfun $ org $ apache $ spark $ sql $ выполнение $ источники данных $ FileFormatWriter $$ executeTask $ 3.apply (FileFormatWriter. scala: 269) в org. apache .spark. sql .execution.datasources.FileFormatWriter $ $ anonfun $ org $ apache $ spark $ sql $ выполнение $ источники данных $ FileFormatWriter $$ executeTask $ 3.apply (FileFormatWriter. scala: 267) в организации. apache .spark.util.Utils $ .tryWithSafeFinallyAndFailureCallbacks (Utils). 1076 *: 1415) в орг. apache .spark. sql .execution.datasources.FileFormatWriter $ .Org $ апач $ искровые $ SQL $ исполнения $ $ FileFormatWriter источники данных $$ executeTask (FileFormatWriter scala:. 272)

...