PySpark: Как я могу подавить вывод% run в ячейку PySpark при импорте переменных из другого ноутбука? - PullRequest
0 голосов
/ 02 марта 2020

Я использую несколько ноутбуков в PySpark и импортирую переменные в эти ноутбуки, используя %run path. Каждый раз, когда я запускаю команду, все переменные, которые я отображал в исходной записной книжке, снова отображаются в текущей записной книжке (записной книжке, в которой я запускаю%). Но я не хочу, чтобы они отображались в текущей записной книжке. Я только хочу иметь возможность работать с импортированными переменными. Как подавить вывод, отображаемый каждый раз? Обратите внимание, я не уверен, если это имеет значение, но я работаю в DataBricks. Спасибо!

Пример команды:

%run /Users/myemail/Nodebook

1 Ответ

1 голос
/ 05 марта 2020

Это ожидаемое поведение, когда вы используете команду % run , которая позволяет вам включить другую записную книжку в записную книжку. Эта команда позволяет объединять различные записные книжки, представляющие ключевые этапы ETL, этапы анализа Spark или исследование ad-ho c. Однако ему не хватает возможности для построения более сложных конвейеров данных.

enter image description here

Рабочие процессы ноутбука являются дополнением к % run , потому что они позволяет возвращать значения из записной книжки. Это позволяет легко создавать сложные рабочие процессы и конвейеры с зависимостями. Вы можете правильно параметризировать прогоны (например, , получить список файлов в каталоге и передать имена в другую записную книжку - что-то, что невозможно при% run ), а также создать if / рабочие процессы then / else на основе возвращаемых значений. Рабочие процессы записных книжек позволяют вызывать другие записные книжки по относительным путям.

Рабочие процессы записываются с помощью методов dbutils.notebook. Эти методы, как и все API-интерфейсы dbutils, доступны только в Scala и Python. Однако вы можете использовать dbutils.notebook.run для вызова записной книжки R.

Для получения дополнительной информации см. " Блоки данных - Рабочие процессы записной книжки ".

...