Функция sum () недоступна в DataFrame, следовательно, ошибка. Вы можете использовать следующий фрагмент, чтобы найти среднее значение или медиану.
meanTemp = spark.sql("select mean(temperature,0.5) from washing")
return meanTemp.collect()[0][0]
Если вы хотите медиану
medianTemp = spark.sql("select percentile_approx(temperature,0.5) from washing")
return medianTemp.collect()[0][0]