У меня возникла такая же проблема, потому что путь python не был добавлен в системную среду. Я добавил это в среду, и теперь она работает отлично.
Добавление PYTHONPATH
переменной среды со значением как:
%SPARK_HOME%\python;%SPARK_HOME%\python\lib\py4j-<version>-src.zip:%PYTHONPATH%
помогло решить эту проблему. Просто проверьте, какая у вас версия py4j в вашем spark/python/lib folder
.