Почему я получаю сообщение об ошибке при импорте библиотеки SparkContext в блокнот sagemaker? - PullRequest
0 голосов
/ 13 января 2020

Я использую SageMaker Notebook в AWS Клей для разработки ETL.

При импорте библиотеки SparkContext я получаю сообщение об ошибке ниже. Я попытался перезапустить ядро, но не воздержался. Может кто-нибудь объяснить мне пункт "а".

Код не выполнен из-за фатальной ошибки: произошла ошибка при отправке http-запроса и обнаружена максимальная повторная попытка .. *

Некоторые действия:

a. Убедитесь, что у Spark достаточно ресурсов, чтобы Jupyter мог создать контекст Spark.

б. Обратитесь к администратору Jupyter, чтобы убедиться, что библиотека Spark magics настроена правильно.

c. Перезапустите ядро.

Необходимо отметить следующие моменты:

  1. Я создаю записную книжку Sagemaker из AWS Консоль> AWS Glue> Dev Endpoint > Ноутбуки.

  2. VP C, Su bnet и группа безопасности созданной конечной точки dev совпадает с RDS, к которой предполагается установить соединение. При создании конечной точки dev на странице сети я выбираю существующее соединение из списка соединений, доступных в раскрывающемся списке, чтобы автоматически выбирались VP C, su bnet и группа безопасности.

  3. Я увеличил DPU с 5 до 10, но все еще получаю эту ошибку.
  4. Невозможно достичь шага, на котором я могу создать соединение с RDS из-за ошибки при вызове библиотеки.
  5. Если я пропускаю информацию о сети при создании конечной точки разработчика, я могу успешно вызывать все соответствующие библиотеки (скриншот прилагается). (что не предлагается при подключении к RDS, поскольку это не будет работать).

Таким образом, эта ошибка («Код не выполнен, потому что ...») появляется только при предоставлении соединения.

Было бы полезно, если бы кто-то мог помочь в решении этой проблемы.

When adding connections, getting this error

Without adding connections I am not getting error

1 Ответ

1 голос
/ 13 января 2020

Хотите знать, допустима ли конфигурация конечной точки Livy? Livy работает на порту 8998. Вы должны проверить, открыт ли порт в группе безопасности.

Это может быть полезно: https://aws.amazon.com/blogs/machine-learning/build-amazon-sagemaker-notebooks-backed-by-spark-in-amazon-emr/

Кроме того, если это не помогает, попробуйте один раз остановить и перезапустить ноутбук. Это помогло в прошлом.

...