Ускорить панды группового применения

Question

У меня есть фрейм данных, и я хочу сгруппировать его по одному столбцу и одновременно применить к нему много функций. К сожалению, это просто занимает слишком много времени. Мне нужно какое-то десятикратное улучшение. Я читал о векторизации, но теряю многие возможности панд.

Это мой подход, сначала я определю все нужные мне функции:

def f(x):
    d = {}
    d['min_min_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].min()
    d['max_max_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].max()
    d['sum_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].sum()
    d['avg_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].mean()
    d['std_approved'] = x['scoring_dol_amount'][x['payment_status']=='approved'].std()
    d['sum_approved_tpn'] = x['scoring_dol_amount'][x['payment_status']=='approved'].count()
    d['sum_rejected_tpn'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].count()
    d['sum_rejected_tpn_hr'] = x['scoring_dol_amount'][x['payment_status_detail']=='cc_rejected_high_risk'].count()
    d['sum_rejected'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].sum()
    d['sum_rejected_hr'] = x['scoring_dol_amount'][x['payment_status_detail']=='cc_rejected_high_risk'].sum()
    d['avg_rejected'] = x['scoring_dol_amount'][x['payment_status']=='rejected'].mean()
    d['std_rejected'] = x['scoring_dol_amount'][x['payment_status']=='approved'].std()
    d['sum_late_hours'] = x['scoring_dol_amount'][(x['payment_date_created'].dt.hour >=23) | (x['payment_date_created'].dt.hour <=6)].count()
    #d['ratio_receive'] = (x['scoring_dol_amount'][x['payment_status']=='approved'].sum())/(x['scoring_dol_amount'][x['payment_status']=='rejected'].sum()+x['scoring_dol_amount'][x['payment_status']=='approved'].sum())
    #d['ratio_receive_tpn'] = (x['scoring_dol_amount'][x['payment_status']=='approved'].count())/(x['scoring_dol_amount'][x['payment_status']=='rejected'].count()+x['scoring_dol_amount'][x['payment_status']=='approved'].count())
    #d['distinct_tc']= x['tc'].nunique()
    #d['distinct_doc']= x['payer_identification_number'].nunique()
    #d['ratio_tc']= (x['tc'].nunique())/(x['scoring_dol_amount'][x['payment_status']=='approved'].count())
    #d['ratio_doc']= (x['payer_identification_number'].nunique())/(x['scoring_dol_amount'][x['payment_status']=='approved'].count())

    return pd.Series(d, index=['min_min_approved', 'max_max_approved', 'sum_approved', 'avg_approved','std_approved','sum_approved_tpn','sum_rejected_tpn','sum_rejected_tpn_hr','sum_rejected','sum_rejected_hr','avg_rejected','std_rejected','sum_late_hours'])#,'ratio_receive','ratio_receive_tpn','distinct_tc','distinct_doc','ratio_tc','ratio_doc'])

И я применяю это так:

dataset_recibido=dataset_recibido.set_index('cust_id')
dataset_recibido.groupby(dataset_recibido.index).apply(f)

Как я могу ускорить это?

Answer 1

Встроенная функция работает быстрее, чем пользовательская apply, в вашем случае вы можете использовать 3 отдельных groupby, используя payment_status и payment_status_detail, payment_date_created в качестве ключа:

group1 = x.groupby(["cust_id", "payment_status"])
stats1 = group1['scoring_dol_amount'].agg(["mean", "std", "sum", "min", "max", "count"])

group2 = x.groupby(["cust_id", "payment_status_detail"])
stats2 = group2['scoring_dol_amount'].agg(["sum", "count"])

group3 = x.groupby(["cust_id", (x['payment_date_created'].dt.hour >=23) | (x['payment_date_created'].dt.hour <=6)])
stats3 = group3['scoring_dol_amount'].count()

Answer 2

Похоже, вы что-то построили, уже включены в панд.Просто groupby() cust_id и payment_status столбцы, по которым вы в данный момент фильтруете, и используйте agg()

dataset_recibido.groupby(['cust_id','payment_status']])\
                          .agg(['count','mean','std','sum','min','max'])