Pythonic / Panda Способ создания функции в Groupby - PullRequest
0 голосов
/ 06 сентября 2018

Я довольно новичок в программировании и ищу более питонный способ реализации некоторого кода. Вот фиктивные данные:

 df = pd.DataFrame({
'Category':np.random.choice( ['Group A','Group B'], 10000),
'Sub-Category':np.random.choice( ['X','Y','Z'], 10000),
'Sub-Category-2':np.random.choice( ['G','F','I'], 10000),
'Product':np.random.choice( ['Product 1','Product 2','Product 3'], 10000),
'Units_Sold':np.random.randint(1,100, size=(10000)),
'Dollars_Sold':np.random.randint(100,1000, size=10000), 
'Customer':np.random.choice(pd.util.testing.rands_array(10,25,dtype='str'),10000),
'Date':np.random.choice( pd.date_range('1/1/2016','12/31/2018',  
                  freq='D'), 10000)})

У меня много таких транзакционных данных, которые я использую для различных групповых операций. Мое текущее решение состоит в том, чтобы создать мастер-группу следующим образом:

master = df.groupby(['Customer','Category','Sub-Category','Product',pd.Grouper(key='Date',freq='A')])['Units_Sold'].sum()\
.unstack()

Оттуда я выполняю различные групповые операции, используя функцию .groupby (level =), чтобы собирать информацию так, как я ищу. Я обычно делаю резюме на каждом уровне. Кроме того, я создаю промежуточные итоги на каждом уровне, используя некоторые варианты приведенного ниже кода.

y = master.groupby(level=[0,1,2]).sum()
y.index = pd.MultiIndex.from_arrays([
    y.index.get_level_values(0),
    y.index.get_level_values(1),
    y.index.get_level_values(2) + ' Total',
    len(y.index)*['']
])

y1 = master.groupby(level=[0,1]).sum()
y1.index = pd.MultiIndex.from_arrays([
    y1.index.get_level_values(0),
    y1.index.get_level_values(1)+ ' Total',
    len(y1.index)*[''],
    len(y1.index)*['']
])

y2 = master.groupby(level=[0]).sum()
y2.index = pd.MultiIndex.from_arrays([
    y2.index.get_level_values(0)+ ' Total',
    len(y2.index)*[''],
    len(y2.index)*[''],
    len(y2.index)*['']
])

pd.concat([master,y,y1,y2]).sort_index()\
    .assign(Diff = lambda x: x.iloc[:,-1] - x.iloc[:,-2])\
    .assign(Diff_Perc = lambda x: (x.iloc[:,-2] / x.iloc[:,-3])- 1)\
    .dropna(how='all')\

Это всего лишь пример - я могу выполнять то же упражнение, но выполнять групповые упражнения в другом порядке. Например - затем я могу захотеть сгруппировать по «Категория», «Продукт», затем «Клиент», поэтому мне нужно будет сделать: master.groupby (уровень = [1,3,0) .sum ()

Тогда мне придется повторить все упражнение для промежуточных итогов, как указано выше. Я также часто меняю период времени - может быть конец года конкретным месяцем, год - датой, квартал и т. Д.

Из того, что я уже изучил в программировании (что является минимальным, ясно!), Вы должны искать возможность писать функцию каждый раз, когда повторяете код. Очевидно, в этом примере я повторяю код снова и снова.

Есть ли способ построить функцию, в которой вы можете предоставлять уровни для Groupby вместе с временными рамками, все это при создании функции для подведения итогов для каждого уровня?

Заранее спасибо за любые указания по этому вопросу. Это очень высоко ценится.

Ответы [ 2 ]

0 голосов
/ 06 сентября 2018

Я думаю, что вы можете сделать это, используя sum с параметром level:

master = df.groupby(['Customer','Category','Sub-Category','Product',pd.Grouper(key='Date',freq='A')])['Units_Sold'].sum()\
.unstack()
s1 = master.sum(level=[0,1,2]).assign(Product='Total').set_index('Product',append=True)
s2 = master.sum(level=[0,1])

# Wanted to use assign method but because of the hyphen in the column name you can't.
# Also use the Z in front for sorting purposes
s2['Sub-Category'] = 'ZTotal'
s2['Product'] = ''
s2 = s2.set_index(['Sub-Category','Product'], append=True)

s3 = master.sum(level=[0])
s3['Category'] = 'Total'
s3['Sub-Category'] = ''
s3['Product'] = ''
s3 = s3.set_index(['Category','Sub-Category','Product'], append=True)

master_new = pd.concat([master,s1,s2,s3]).sort_index()
master_new

Выход:

Date                                        2016-12-31  2017-12-31  2018-12-31
Customer   Category Sub-Category Product                                      
30XWmt1jm0 Group A  X            Product 1       651.0       341.0       453.0
                                 Product 2       267.0       445.0       117.0
                                 Product 3       186.0       280.0       352.0
                                 Total          1104.0      1066.0       922.0
                    Y            Product 1       426.0       417.0       670.0
                                 Product 2       362.0       210.0       380.0
                                 Product 3       232.0       290.0       430.0
                                 Total          1020.0       917.0      1480.0
                    Z            Product 1       196.0       212.0       703.0
                                 Product 2       277.0       340.0       579.0
                                 Product 3       416.0       392.0       259.0
                                 Total           889.0       944.0      1541.0
                    ZTotal                      3013.0      2927.0      3943.0
           Group B  X            Product 1       356.0       230.0       407.0
                                 Product 2       402.0       370.0       590.0
                                 Product 3       262.0       381.0       377.0
                                 Total          1020.0       981.0      1374.0
                    Y            Product 1       575.0       314.0       643.0
                                 Product 2       557.0       375.0       411.0
                                 Product 3       344.0       246.0       280.0
                                 Total          1476.0       935.0      1334.0
                    Z            Product 1       278.0       152.0       392.0
                                 Product 2       149.0       596.0       303.0
                                 Product 3       234.0       505.0       521.0
                                 Total           661.0      1253.0      1216.0
                    ZTotal                      3157.0      3169.0      3924.0
           Total                                6170.0      6096.0      7867.0
3U2anYOD6o Group A  X            Product 1       214.0       443.0       195.0
                                 Product 2       170.0       220.0       423.0
                                 Product 3       111.0       469.0       369.0
...                                                ...         ...         ...
somc22Y2Hi Group B  Z            Total           906.0      1063.0       680.0
                    ZTotal                      3070.0      3751.0      2736.0
           Total                                6435.0      7187.0      6474.0
zRZq6MSKuS Group A  X            Product 1       421.0       182.0       387.0
                                 Product 2       359.0       287.0       331.0
                                 Product 3       232.0       394.0       279.0
                                 Total          1012.0       863.0       997.0
                    Y            Product 1       245.0       366.0       111.0
                                 Product 2       377.0       148.0       239.0
                                 Product 3       372.0       219.0       310.0
                                 Total           994.0       733.0       660.0
                    Z            Product 1       280.0       363.0       354.0
                                 Product 2       384.0       604.0       178.0
                                 Product 3       219.0       462.0       366.0
                                 Total           883.0      1429.0       898.0
                    ZTotal                      2889.0      3025.0      2555.0
           Group B  X            Product 1       466.0       413.0       187.0
                                 Product 2       502.0       370.0       368.0
                                 Product 3       745.0       480.0       318.0
                                 Total          1713.0      1263.0       873.0
                    Y            Product 1       218.0       226.0       385.0
                                 Product 2       123.0       382.0       570.0
                                 Product 3       173.0       572.0       327.0
                                 Total           514.0      1180.0      1282.0
                    Z            Product 1       480.0       317.0       604.0
                                 Product 2       256.0       215.0       572.0
                                 Product 3       463.0        50.0       349.0
                                 Total          1199.0       582.0      1525.0
                    ZTotal                      3426.0      3025.0      3680.0
           Total                                6315.0      6050.0      6235.0

[675 rows x 3 columns]
0 голосов
/ 06 сентября 2018

Для решения DRY-er рассмотрите возможность обобщения вашего текущего метода в определенный модуль, который фильтрует исходный фрейм данных по диапазонам дат и запускает агрегации, получая уровни group_by и диапазоны дат (последний является необязательным) в виде параметров:

Метод

def multiple_agg(mylevels, start_date='2016-01-01', end_date='2018-12-31'):

    filter_df = df[df['Date'].between(start_date, end_date)]

    master = (filter_df.groupby(['Customer', 'Category', 'Sub-Category', 'Product', 
                     pd.Grouper(key='Date',freq='A')])['Units_Sold']
                .sum()
                .unstack()
              )

    y = master.groupby(level=mylevels[:-1]).sum()
    y.index = pd.MultiIndex.from_arrays([
        y.index.get_level_values(0),
        y.index.get_level_values(1),
        y.index.get_level_values(2) + ' Total',
        len(y.index)*['']
    ])

    y1 = master.groupby(level=mylevels[0:2]).sum()
    y1.index = pd.MultiIndex.from_arrays([
        y1.index.get_level_values(0),
        y1.index.get_level_values(1)+ ' Total',
        len(y1.index)*[''],
        len(y1.index)*['']
    ])

    y2 = master.groupby(level=mylevels[0]).sum()
    y2.index = pd.MultiIndex.from_arrays([
        y2.index.get_level_values(0)+ ' Total',
        len(y2.index)*[''],
        len(y2.index)*[''],
        len(y2.index)*['']
    ])

    final_df = (pd.concat([master,y,y1,y2])
                         .sort_index()
                         .assign(Diff = lambda x: x.iloc[:,-1] - x.iloc[:,-2])
                         .assign(Diff_Perc = lambda x: (x.iloc[:,-2] / x.iloc[:,-3])- 1)
                         .dropna(how='all')
                         .reorder_levels(mylevels)
                )

    return final_df

Агрегационные прогоны (разных уровней и диапазонов дат)

agg_df1 = multiple_agg([0,1,2,3])

agg_df2 = multiple_agg([1,3,0,2], '2016-01-01', '2017-12-31')

agg_df3 = multiple_agg([2,3,1,0], start_date='2017-01-01', end_date='2018-12-31')

Тестирование (final_df - выход OP * S 1020 *)

# EQUALITY TESTING OF FIRST 10 ROWS
print(final_df.head(10).eq(agg_df1.head(10)))

# Date                                        2016-12-31 00:00:00  2017-12-31 00:00:00  2018-12-31 00:00:00  Diff  Diff_Perc
# Customer   Category Sub-Category Product                                                                                  
# 45mhn4PU1O Group A  X            Product 1                 True                 True                 True  True       True
#                                  Product 2                 True                 True                 True  True       True
#                                  Product 3                 True                 True                 True  True       True
#                     X Total                                True                 True                 True  True       True
#                     Y            Product 1                 True                 True                 True  True       True
#                                  Product 2                 True                 True                 True  True       True
#                                  Product 3                 True                 True                 True  True       True
#                     Y Total                                True                 True                 True  True       True
#                     Z            Product 1                 True                 True                 True  True       True
#                                  Product 2                 True                 True                 True  True       True
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...