Используйте оконную функцию на 2 столбца, один по возрастанию, а другой по убыванию - PullRequest
0 голосов
/ 22 октября 2019

Я хотел бы иметь столбец row_number (), основанный на 2 столбцах в существующем фрейме данных с использованием PySpark. Я хотел бы иметь порядок, чтобы один столбец сортировался по возрастанию, а другой по убыванию.

Я просмотрел документацию по оконным функциям и не нашел здесь ничего в PySpark.

1 Ответ

1 голос
/ 22 октября 2019
import pyspark.sql.functions as F
from pyspark.sql.window import Window

df.withColumn('rowNum', F.row_number().over(Window.partitionBy('partitioncol').orderBy(F.asc('col1'), F.desc('col2'))))
...