Я начинаю использовать pyspark для создания SparkSession в Spark 2.3 в моей записной книжке Jupyter:
После запуска:
import pyspark
from pyspark.sql import SparkSession
Я попробовал следующее, все не удалось с той же ошибкой:
spark = SparkSession.builder.getOrCreate()
spark=SparkSession.builder.master("local").appName("test").config(conf=SparkConf()).getOrCreate()
spark=SparkSession.builder.master("yarn-client").appName("test").config(conf=SparkConf()).getOrCreate()
Ошибка:
OSError: [Errno 2] Нет такого файла или каталога
Что-то мне здесь не хватает?любая подсказка очень ценится.