Pandas DataFrame: как установить объединение объединений поверх скользящего окна - PullRequest
Новая
       23

Pandas DataFrame: как установить объединение объединений поверх скользящего окна

0 голосов
/ 11 октября 2018

У меня есть Dataframe, который содержит наборы идентификаторов в одном столбце и даты в другом: 

import pandas as pd

df = pd.DataFrame([['2018-01-01', {1, 2, 3}],
                   ['2018-01-02', {3}],
                   ['2018-01-03', {3, 4, 5}],
                   ['2018-01-04', {5, 6}]],
                  columns=['timestamp', 'ids'])

df['timestamp'] = pd.to_datetime(df['timestamp'])
df.set_index('timestamp', inplace=True)

                     ids
timestamp               
2018-01-01     {1, 2, 3}
2018-01-02     {3}
2018-01-03     {3, 4, 5}
2018-01-04     {5, 6}

Мне нужна функция, которая может дать мне идентификаторы за последние x дней в день,Итак, предполагая x = 3, я бы хотел, чтобы результат был: 

                     ids
timestamp               
2018-01-01     {1, 2, 3}
2018-01-02     {1, 2, 3}
2018-01-03     {1, 2, 3, 4, 5}
2018-01-04     {3, 4, 5, 6}

Я пытался 

df.rolling(3).agg(set.union)

, но это приводит к следующей ошибке: 

Traceback (most recent call last):
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 222, in _prep_values
    values = _ensure_float64(values)
  File "pandas\_libs\algos_common_helper.pxi", line 3182, in pandas._libs.algos.ensure_float64
  File "pandas\_libs\algos_common_helper.pxi", line 3187, in pandas._libs.algos.ensure_float64
TypeError: float() argument must be a string or a number, not 'set'

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 1561, in aggregate
    return super(Rolling, self).aggregate(arg, *args, **kwargs)
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 321, in aggregate
    return self.apply(arg, raw=False, args=args, kwargs=kwargs)
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 1580, in apply
    func, raw=raw, args=args, kwargs=kwargs)
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 1003, in apply
    center=False, raw=raw)
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 844, in _apply
    values = self._prep_values(b.values)
  File "C:\Users\m.manhertz\Envs\demo-8EG6nosu\lib\site-packages\pandas\core\window.py", line 225, in _prep_values
    "".format(values.dtype))
TypeError: cannot handle this type -> object

1 Ответ

0 голосов
/ 11 октября 2018

Панды не предназначены для хранения итераций, таких как list, set, dict внутри pd.Series объектов.Таким образом, ваша логика не векторизована.Ваш лучший вариант может быть понимание списка: 

import pandas as pd

df = pd.DataFrame([['2018-01-01', {1, 2, 3}],
                   ['2018-01-02', {3}],
                   ['2018-01-03', {3, 4, 5}],
                   ['2018-01-04', {3, 6}]],
                  columns=['timestamp', 'ids'])

df['timestamp'] = pd.to_datetime(df['timestamp'])
df.set_index('timestamp', inplace=True)

df['ids'] = [set.union(*df.iloc[max(0, i-2): i+1, 0]) for i in range(len(df.index))]

print(df)

                        ids
timestamp                  
2018-01-01        {1, 2, 3}
2018-01-02        {1, 2, 3}
2018-01-03  {1, 2, 3, 4, 5}
2018-01-04     {3, 4, 5, 6}
...