Ранжирование панд данных по квантилям - PullRequest
Новая
       17

Ранжирование панд данных по квантилям

2 голосов
/ 28 мая 2019

У меня есть фрейм данных Pandas, в котором каждый столбец представляет отдельное свойство, и в каждой строке содержится значение свойств на определенную дату: 

import pandas as pd

dfstr = \
'''         AC        BO         C       CCM        CL       CRD        CT        DA        GC        GF
2010-01-19  0.844135 -0.194530 -0.231046  0.245615 -0.581238 -0.593562  0.057288  0.655903  0.823997  0.221920
2010-01-20 -0.204845 -0.225876  0.835611 -0.594950 -0.607364  0.042603  0.639168  0.816524  0.210653  0.237833
2010-01-21  0.824852 -0.216449 -0.220136  0.234343 -0.611756 -0.624060  0.028295  0.622516  0.811741  0.201083'''
df = pd.read_csv(pd.compat.StringIO(dfstr), sep='\s+')

Используя метод rank, я могу найти процентильный ранг каждого свойства по отношению к конкретной дате: 

df.rank(axis=1, pct=True)

Выход: 

             AC   BO    C  CCM   CL  CRD   CT   DA   GC   GF
2010-01-19  1.0  0.4  0.3  0.7  0.2  0.1  0.5  0.8  0.9  0.6
2010-01-20  0.4  0.3  1.0  0.2  0.1  0.5  0.8  0.9  0.6  0.7
2010-01-21  1.0  0.4  0.3  0.7  0.2  0.1  0.5  0.8  0.9  0.6

Вместо этого я бы хотел получить квантильный (например, квартильный, квинтильный, децильный и т. Д.) Ранг каждого свойства. Например, для квинтильного ранга мой желаемый результат будет: 

             AC   BO    C  CCM   CL  CRD   CT   DA   GC   GF
2010-01-19   5    2     2  4     1   1     3    4    5    3
2010-01-20   2    2     5  1     1   3     4    5    3    4
2010-01-21   5    2     2  4     1   1     3    4    5    3

Возможно, я что-то упускаю, но, похоже, нет встроенного способа для такого рода квантильного ранжирования с Пандами. Какой самый простой способ получить желаемый результат?

1 Ответ

3 голосов
/ 28 мая 2019

Метод 1 mul & np.ceil

Вы были достаточно близки с рангом. Просто умножьте на 5 с .mul, чтобы получить желаемый квантиль, также округлите до np.ceil: 

np.ceil(df.rank(axis=1, pct=True).mul(5))

Output

             AC   BO    C  CCM   CL  CRD   CT   DA   GC   GF
2010-01-19  5.0  2.0  2.0  4.0  1.0  1.0  3.0  4.0  5.0  3.0
2010-01-20  2.0  2.0  5.0  1.0  1.0  3.0  4.0  5.0  3.0  4.0
2010-01-21  5.0  2.0  2.0  4.0  1.0  1.0  3.0  4.0  5.0  3.0

Если вы хотите целые числа, используйте astype: 

np.ceil(df.rank(axis=1, pct=True).mul(5)).astype(int)

Или еще лучше Начиная с версии панд 0.24.0 у нас есть обнуляемое целое число тип: Int64.
Таким образом, мы можем использовать: 

np.ceil(df.rank(axis=1, pct=True).mul(5)).astype('Int64')

Output

            AC  BO  C  CCM  CL  CRD  CT  DA  GC  GF
2010-01-19   5   2  2    4   1    1   3   4   5   3
2010-01-20   2   2  5    1   1    3   4   5   3   4
2010-01-21   5   2  2    4   1    1   3   4   5   3

Метод 2 scipy.stats.percentileofscore

d = df.apply(lambda x: [np.ceil(stats.percentileofscore(x, a, 'rank')*0.05) for a in x], axis=1).values

pd.DataFrame(data=np.concatenate(d).reshape(d.shape[0], len(d[0])), 
             columns=df.columns, 
             dtype='int', 
             index=df.index)

Output

            AC  BO  C  CCM  CL  CRD  CT  DA  GC  GF
2010-01-19   5   2  2    4   1    1   3   4   5   3
2010-01-20   2   2  5    1   1    3   4   5   3   4
2010-01-21   5   2  2    4   1    1   3   4   5   3
...