Как сохранить или проверить подключение Apache Livy? - PullRequest
0 голосов
/ 24 мая 2018

Как известно, создание Apache Livy дорого.Он создаст новые приложения и загрузит файлы задач.

В моем случае пользователь может отправить работу, используя мою веб-запись Api с Java, затем я использую Apache Livy Client, чтобы отправить работу в spark.

IЯ хочу сохранить один или исправить число экземпляров клиента Livy, и я могу проверить состояние клиента, например, Пул подключений.

1 Ответ

0 голосов
/ 28 июня 2018

Если ваша работа является конечной единицей работы, то вы должны использовать абстракцию Batch Ливи, а не Session.Session для интерактивной работы (например, Jupyter Notebook или Apache Zeppelin), где пользователи отправляют некоторые запросы, оценивают результаты и отправляют еще несколько.Batch, с другой стороны, больше всего напоминает то, что вы обычно отправляете, используя spark-submit исполняемый файл;он также завершится сам по себе, когда рабочие задачи будут выполнены, и очистит после себя, поэтому нет необходимости в пуле соединений.Тем не менее, пул соединений не имеет большого смысла и для Session, так как каждый сеанс имеет состояние (переменные, определенные в предыдущих инструкциях, выполняющихся в указанном сеансе), и это состояние не является (и не должно быть) общим

...