Ниже приведена пара строк, которые можно добавить для подсчета количества столбцов в Spark SQL,
Pyspark Solution:
df_cont = spark.creatDataframe() // use right funtion to create dataframe based on source
print("Number of columns:"+str(len(df_cont.columns)))
Scala Решение:
val df_cont = spark.creatDataframe() // use right funtion to create dataframe based on source
val length = df_cont.columns.length
println("Number of columns:"+length)