Группа панд к тому времени подсчитывает и суммирует на основе диапазона дат +/- х дней - PullRequest
0 голосов
/ 31 августа 2018

Я хочу получить количество и сумму значений в течение +/- 7 дней для столбца после того, как кадр данных сгруппирован в определенный столбец

Пример данных (отредактированный для отражения моего реального набора данных):

group  |        date          |   amount
-------------------------------------------
A      |  2017-12-26 04:20:20 |    50000.0
A      |  2018-01-17 00:54:15 |    60000.0
A      |  2018-01-27 06:10:12 |   150000.0
A      |  2018-02-01 01:15:06 |   100000.0
A      |  2018-02-11 05:05:34 |   150000.0
A      |  2018-03-01 11:20:04 |   150000.0
A      |  2018-03-16 12:14:01 |   150000.0
A      |  2018-03-23 05:15:07 |   150000.0
A      |  2018-04-02 10:40:35 |   150000.0

сгруппировать по group, а затем по сумме date-7 <<code>date <<code>date+7

Результаты, которые я хочу:

group  |        date          |   amount    |  grouped_sum
-----------------------------------------------------------
A      |  2017-12-26 04:00:00 |    50000.0  |    50000.0
A      |  2018-01-17 00:00:00 |    60000.0  |    60000.0
A      |  2018-01-27 06:00:00 |   150000.0  |   250000.0
A      |  2018-02-01 01:00:00 |   100000.0  |   250000.0
A      |  2018-02-11 05:05:00 |   150000.0  |   150000.0
A      |  2018-03-01 11:00:04 |   150000.0  |   150000.0
A      |  2018-03-16 12:00:01 |   150000.0  |   150000.0
A      |  2018-03-23 05:00:07 |   100000.0  |   100000.0
A      |  2018-04-02 10:00:00 |   100000.0  |   100000.0

Быстрый фрагмент для получения набора данных:

group = 9 * ['A']
date = pd.to_datetime(['2017-12-26 04:20:20', '2018-01-17 00:54:15', 
                       '2018-01-27 06:10:12', '2018-02-01 01:15:06', 
                       '2018-02-11 05:05:34', '2018-03-01 11:20:04', 
                       '2018-03-16 12:14:01', '2018-03-23 05:15:07', 
                       '2018-04-02 10:40:35'])
amount = [50000.0, 60000.0, 150000.0, 100000.0, 150000.0, 
          150000.0, 150000.0, 150000.0, 150000.0]
df = pd.DataFrame({'group':group, 'date':date, 'amount':amount})

Бит объяснения:

  • 2-я строка - 40, потому что она суммирует данные для A в периоды 2018-01-14 и 2018-01-15
  • 4-я строка - 30, потому что она суммирует данные для B за период 2018-01-03 + следующие 7 дней
  • 6-я строка - 30, потому что она суммирует данные для B за период 2018-01-03 + предыдущие 7 дней.

Я понятия не имею, как сделать сумму за период диапазона дат. Я мог бы сделать это, если сделаю так:

1.Создайте еще один столбец, в котором будут показаны дата-7 и дата + 7 для каждой строки

group  |    date     |  amount  |    date-7    |    date+7 
-------------------------------------------------------------
A      |  2017-12-26 |  50000.0 |  2017-12-19  |  2018-01-02
A      |  2018-01-17 |  60000.0 |  2018-01-10  |  2018-01-24

2.счетная сумма в диапазоне дат: df[df.group == 'A' & df.date > df.date-7 & df.date < df.date+7].amount.sum()

3. Но этот метод довольно утомителен.

РЕДАКТИРОВАТЬ (2018-09-01): Ниже описан этот метод на основе ответа @jezrael, который работает для меня, но работает только для одной группы:

t = pd.Timedelta(7, unit='d')
def g(row):
    res = df[(df.created > row.created - t) & (df.created < row.created + t)].amount.sum()
    return res

df['new'] = df.apply(g, axis=1)

Ответы [ 2 ]

0 голосов
/ 31 августа 2018

Добавить столбец с первыми днями недели:

df['week_start'] = df['date'].dt.to_period('W').apply(lambda x: x.start_time)

Результат:

  group       date  amount week_start
0     A 2018-01-01      10 2017-12-26
1     A 2018-01-14      20 2018-01-09
2     A 2018-01-15      20 2018-01-09
3     B 2018-02-03      10 2018-01-30
4     B 2018-02-04      10 2018-01-30
5     B 2018-02-05      10 2018-01-30

Сгруппируйте по новому столбцу и найдите общую сумму за неделю:

grouped_sum = df.groupby('week_start')['amount'].sum().reset_index()

Результат:

  week_start  amount
0 2017-12-26      10
1 2018-01-09      40
2 2018-01-30      30

Объединить кадры данных на week_start:

pd.merge(df.drop('amount', axis=1), grouped_sum, on='week_start').drop('week_start', axis=1)

Результат:

  group       date  amount
0     A 2018-01-01      10
1     A 2018-01-14      40
2     A 2018-01-15      40
3     B 2018-02-03      30
4     B 2018-02-04      30
5     B 2018-02-05      30
0 голосов
/ 31 августа 2018

Вот проблема необходимости цикла для каждой строки и для каждой группы:

t = pd.Timedelta(7, unit='d')

def f(x):
    return x.apply(lambda y: x.loc[x['date'].between(y['date'] - t, 
                                                     y['date'] + t,
                                                     inclusive=False),'amount'].sum() ,axis=1)

df['new'] = df.groupby('group', group_keys=False).apply(f)
print (df)
  group       date  amount   new
0     A 2018-01-01      10  10.0
1     A 2018-01-14      20  40.0
2     A 2018-01-15      20  40.0
3     B 2018-02-03      10  30.0
4     B 2018-02-04      10  30.0
5     B 2018-02-05      10  30.0

Спасибо за улучшение @jpp:

def f(x, t):
    return x.apply(lambda y: x.loc[x['date'].between(y['date'] - t, 
                                                     y['date'] + t,
                                                     inclusive=False),'amount'].sum(),axis=1)

df['new'] = df.groupby('group', group_keys=False).apply(f, pd.Timedelta(7, unit='d'))

Проверить решение:

t = pd.Timedelta(7, unit='d')


df = df[df['group'] == 'A']

def test(y):
    a = df.loc[df['date'].between(y['date'] - t,  y['date'] + t,inclusive=False)]
    print (a)
    print (a['amount'])
    return a['amount'].sum()

  group       date  amount
0     A 2018-01-01      10
0    10
Name: amount, dtype: int64
  group       date  amount
1     A 2018-01-14      20
2     A 2018-01-15      20
1    20
2    20
Name: amount, dtype: int64
  group       date  amount
1     A 2018-01-14      20
2     A 2018-01-15      20
1    20
2    20
Name: amount, dtype: int64

df['new'] = df.apply(test,axis=1)
print (df)
  group       date  amount  new
0     A 2018-01-01      10   10
1     A 2018-01-14      20   40
2     A 2018-01-15      20   40
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...