Задание Kafka Stream не выполнено: драйвер прерван или отключен - PullRequest
0 голосов
/ 21 декабря 2018

Я очень новичок в работе Kafka и Spark, я пытаюсь запустить работу, но получаю следующую ошибку и прекращаю работу.Кто-нибудь есть идея?

enter image description here Тип журнала: stderr

Время загрузки журнала: Пт 21 декабря 00:15:32 +0000 2018

Длина журнала:29057

Показано 4096 байт из 29057 всего.Нажмите здесь для просмотра полного журнала.

-9-98.us-west-2.compute.internal "порт: 8020 файл:" /user/hadoop/.sparkStaging/application_1544720011085_3180/spray-httpx_2.11-1.3.2.jar "} размер: 434142 отметка времени: 1545351316767 тип: FILE видимость: PRIVATE akka-actor_2.11-2.3.2.jar -> resource {схема:" hdfs "хост:" ip-10-10-9-98.us-west-2.compute.internal "порт: 8020 файл:" /user/hadoop/.sparkStaging/application_1544720011085_3180/akka-actor_2.11-2.3.2.jar "} размер: 2526079 метка времени: 1545351316020 тип: ФАЙЛвидимость: ЧАСТНАЯ

==================================================================================== 18/12/21 00:15:21 INFO RMProxy: Подключение к ResourceManager по адресу ip-10-10-9-98.us-west-2.compute.internal / 10.10.9.98: 8030 18/12/21 00:15:21 INFO YarnRMClient: Регистрация ApplicationMaster 18/12 /21 00:15:21 INFO YarnAllocator: будет запрашивать 4 контейнера (ов) исполнителя, каждый с 4 ядрами и 10137 МБ памяти (включая 921 МБ служебных данных) 18/12/21 00:15:21 INFO YarnAllocator: Sотправлено 4 нелокализованных запроса контейнера.18.12.21 00:15:22 ИНФОРМАЦИЯ ApplicationMaster: Запущен поток репортера прогресса с интервалами (биение: 3000, начальное распределение: 200) 18.12.21 00:15:25 INFO AMRMClientImpl: Получен новый токен для: ip-10-10-9-16.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO AMRMClientImpl: Получен новый токен для: ip-10-10-9-180.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO AMRMClientImpl: Получен новый токен для: ip-10-10-9-236.us-west-2.compute.internal: 8041 18/12 /21 00:15:25 INFO AMRMClientImpl: Получен новый токен для: ip-10-10-9-125.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO YarnAllocator: запуск контейнераcontainer_1544720011085_3180_01_000002 на хосте ip-10-10-9-16.us-west-2.compute.internal для исполнителя с ID 1 18/12/21 00:15:25 INFO YarnAllocator: запуск контейнера container_1544720011085_3180_01_000003 на хосте ip-10-10-9-180.us-west-2.compute.internal для исполнителя с ID 2 18/12/21 00:15:25 INFO YarnAllocator: запуск контейнера container_1544720011085_3180_01_000004 на хосте ip-10-10-9-236.us-west-2.compute.internal для исполнителя с ID 3 18/12/21 00:15:25 INFO YarnAllocator: запуск контейнера container_1544720011085_3180_01_000005 на хосте ip-10-10-9-125.us-west-2.compute.internal для исполнителя с ID 4 18/12/21 00:15:25 INFO YarnAllocator: получено 4 контейнера из YARN, запущены исполнители на 4 из них.18/12/21 00:15:25 ИНФОРМАЦИЯ ContainerManagementProtocolProxy: yarn.client.max-cached-nodemanagers-proxies: 0 18/12/21 00:15:25 INFO ContainerManagementProtocolProxy: yarn.client.max-cached-nodemanagers-proxies: 0 18/12/21 00:15:25 ИНФОРМАЦИЯ ContainerManagementProtocolProxy: yarn.client.max-cached-nodemanagers-proxy: 0 18/12/21 00:15:25 ИНФОРМАЦИЯ ContainerManagementProtocolProxy: yarn.client.max-cached-nodemanagers-proxies: 0 18/12/21 00:15:25 INFO ContainerManagementProtocolProxy: Открытие прокси: ip-10-10-9-236.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO ContainerManagementProtocolProxy: Открывающий прокси: ip-10-10-9-16.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO ContainerManagementProtocolProxy: Открывающий прокси: ip-10-10-9-125.us-west-2.compute.internal: 8041 18/12/21 00:15:25 INFO ContainerManagementProtocolProxy: Открытие прокси-сервера: ip-10-10-9-180.us-west-2.compute.internal: 8041 18.12.21 00:15:30 ИНФОРМАЦИЯ YarnAllocator: Драйвер запросил всего 0 исполнителей.18.12.21 00:15:30 INFO ApplicationMaster $ AMEndpoint: драйвер прерван или отключен!Выключение.10.10.9.98:33761 18.12.21 00:15:30ИНФОРМАЦИЯ ApplicationMaster $ AMEndpoint: драйвер прерван или отключен!Выключение.10.10.9.98:33761 18/12/21 00:15:30 INFO ApplicationMaster: окончательный статус приложения: SUCCEEDED, exitCode: 0 18/12/21 00:15:30 INFO ApplicationMaster: отмена регистрации ApplicationMaster в SUCCEEDED 18/12/21 00: 15: 30 INFO AMRMClientImpl: Ожидание успешной отмены регистрации приложения.18/12/21 00:15:30 INFO ApplicationMaster: удаление промежуточного каталога hdfs: //ip-10-10-9-98.us-west-2.compute.internal: 8020 / user / hadoop / .sparkStaging / application_1544720011085_318018/12/21 00:15:30 ИНФОРМАЦИЯ ShutdownHookManager: вызываемый хук отключения

Тип журнала: стандартный вывод

Время загрузки журнала: пт 21 декабря 00:15:32 +0000 2018

Длина бревна: 0

С уважением, Деннис

...