Применить фильтр в агрегации в пандах - PullRequest
Новая
       6

Применить фильтр в агрегации в пандах

0 голосов
/ 25 сентября 2018

Допустим, у меня есть следующее pd.DataFrame. 

import pandas as pd
import numpy as np

data = {'number': [1, 1, 1, 2],  'q':[np.nan, 2, np.nan, 1], 'letter': ['alpha', 'beta', 'gamma', 'alpha']}
df = pd.DataFrame(data)

   number   q   letter
0   1      NaN   alpha
1   1      2.0   beta
2   1      NaN   gamma
3   2      1.0   alpha

Что я хочу сделать, это агрегировать по числу и создать список со всеми буквами и применить фильтр на основе значенияq.

Если я сделаю это:

df.groupby('number').agg({"letter": lambda w: list(w) }) даст: 

    letter
number  
1   [alpha, beta, gamma]
2   [alpha]

Но я хочу включить только те столбцы, которые соответствуютq значение не равно NaN, т.е. 

  number    letter
0   1       [beta]
1   2       [alpha]

Редактировать : я был бы признателен за более общее решение (не только если у нас есть NaN значения), но если мыхотите указать значение q в качестве порога того, что будет включено или нет.

1 Ответ

0 голосов
/ 25 сентября 2018

Я думаю, что нужно DataFrame.dropna: 

df1 = df.dropna().groupby('number').agg({"letter": lambda w: list(w)})

Если хотите указать столбец для удаления пропущенных значений: 

df1 = df.dropna(subset=['q']).groupby('number').agg({"letter": lambda w: list(w)})
print (df1)
         letter
number         
1        [beta]
2       [alpha]

РЕДАКТИРОВАТЬ:

Вы также можете фильтровать по query: 

df1 = df.query("q > 0").groupby('number').agg({"letter": lambda w: list(w)})

или boolean indexing: 

df1 = df[df['q'] > 0].groupby('number').agg({"letter": lambda w: list(w)})

df1 = df[df['q'].notnull()].groupby('number').agg({"letter": lambda w: list(w)})

РЕДАКТИРОВАТЬ1:

Фильтрация также возможна во избежание потери несопоставленных групп: 

def f(x):
    return x.loc[x['q'] > 1, 'letter'].tolist()

df2 = df.groupby('number').apply(f).reset_index(name='val')
print (df2)
   number     val
0       1  [beta]
1       2      []

df1 = df[df['q'] > 1].groupby('number').agg({"letter": lambda w: list(w)})
print (df1)
        letter
number        
1       [beta]
...