вы можете создать Temp View, используя dataframe, и можете использовать его в sql
. Например, у вас есть dataframe df, затем запустите его, чтобы создать временное представление с именем "my_table"
df.createOrReplaceTempView("my_table")
Теперь вы можете запустить запрос поверх этого
df2 = spark.sql("select * from my_table")