Pyspark - вычислить среднеквадратическое среднеквадратичное отклонение между фактическими значениями и прогнозами для групповой задачи - AssertionError: все выражения должны быть столбцами

Question

У меня есть функция, которая вычисляет среднеквадратическое среднеквадратичное значение для предиктов и фактических значений всего фрейма данных:

def calculate_rmse(df, actual_column, prediction_column):
    RMSE = F.udf(lambda x, y: ((x - y) ** 2))
    df = df.withColumn(
        "RMSE", RMSE(F.col(actual_column), F.col(prediction_column))
    )
    rmse = df.select(F.avg("RMSE") ** 0.5).collect()
    rmse = rmse[0]["POWER(avg(RMSE), 0.5)"]
    return rmse

test = calculate_rmse(my_df, 'actuals', 'preds')

3690.4535

Я хотел бы применить это к выражению groupby, но когда я это сделаю, я получу следующее:

df_gb = my_df.groupby('start_month', 'start_week').agg(calculate_rmse(my_df, 'actuals', 'preds'))


all exprs should be Column
Traceback (most recent call last):
  File "/usr/lib/spark/python/lib/pyspark.zip/pyspark/sql/group.py", line 113, in agg
    assert all(isinstance(c, Column) for c in exprs), "all exprs should be Column"
AssertionError: all exprs should be Column

Может ли кто-нибудь указать мне правильное направление? Я довольно новичок в Pyspark.

Answer 1

Если вы хотите рассчитать RMSE по группам, небольшая адаптация предложенного мной решения ваш вопрос

import pyspark.sql.functions as psf

def compute_RMSE(expected_col, actual_col):

  rmse = old_df.withColumn("squarederror",
                           psf.pow(psf.col(actual_col) - psf.col(expected_col),
                                   psf.lit(2)
                           ))
  .groupby('start_month', 'start_week')
  .agg(psf.avg(psf.col("squarederror")).alias("mse"))
  .withColumn("rmse", psf.sqrt(psf.col("mse")))

  return(rmse)


compute_RMSE("col1", "col2")

Answer 2

Я не думаю, что вам нужен UDF для этого - я думаю, вы должны быть в состоянии взять разницу между двумя столбцами (df.withColumn('difference', col('true') - col('pred'))), затем вычислить квадрат этого столбца (df.withColumn('squared_difference', pow(col('difference'), lit(2).astype(IntegerType()))) и вычислить среднее значение столбца (df.withColumn('rmse', avg('squared_difference'))). Собираем все вместе с примером:

from pyspark.sql import SparkSession
from pyspark.sql import SQLContext
import pyspark.sql.functions as F
from pyspark.sql.types import IntegerType

spark = SparkSession.builder.getOrCreate()

sql_context = SQLContext(spark.sparkContext)

df = sql_context.createDataFrame([(0.0, 1.0),
                                  (1.0, 2.0),
                                  (3.0, 5.0),
                                  (1.0, 8.0)], schema=['true', 'predicted'])

df = df.withColumn('difference', F.col('true') - F.col('predicted'))
df = df.withColumn('squared_difference', F.pow(F.col('difference'), F.lit(2).astype(IntegerType())))
rmse = df.select(F.avg(F.col('squared_difference')).alias('rmse'))

print(df.show())
print(rmse.show())

Вывод:

+----+---------+----------+------------------+
|true|predicted|difference|squared_difference|
+----+---------+----------+------------------+
| 0.0|      1.0|      -1.0|               1.0|
| 1.0|      2.0|      -1.0|               1.0|
| 3.0|      5.0|      -2.0|               4.0|
| 1.0|      8.0|      -7.0|              49.0|
+----+---------+----------+------------------+

+-----+
| rmse|
+-----+
|13.75|
+-----+

Надеюсь, это поможет!

Редактировать

Извините, я забыл возьмите квадрат root результата - последняя строка становится:

rmse = df.select(F.sqrt(F.avg(F.col('squared_difference'))).alias('rmse'))

и вывод становится:

+------------------+
|              rmse|
+------------------+
|3.7080992435478315|
+------------------+