математические операции между столбцами в мультииндексном фрейме данных

Question

У меня есть фрейм данных с мультииндексом столбца, который мне нужен для среза и выполнения математических операций между срезами.

# sample df
idx=pd.IndexSlice
np.random.seed(123)
tuples = list(zip(*[['one', 'one', 'two', 'two', 'three', 'three'],['foo', 'bar', 'foo', 'bar', 'foo', 'bar']]))
index = pd.MultiIndex.from_tuples(tuples, names=['first', 'second'])
df = pd.DataFrame(np.random.randn(3, 6), index=['A', 'B', 'C'], columns=index)

Если бы я хотел выполнить, скажем, сложение / вычитание между отдельными столбцами, я мог бы использовать срез индексаи сделайте это так:

df.loc[:,idx['three','foo']] - df.loc[:,idx['two','foo']]

Однако, если я хочу использовать срез более высокого уровня, он не работает и возвращает NaN:

# not working
df.loc[:,idx['three',:]] - df.loc[:,idx['two',:]]

Есть ли простой способ использованиясрезы более высокого уровня df и добавить / вычесть только соответствующие столбцы?Мой фрейм данных потенциально содержит сотни столбцов в мультииндексах.Спасибо

Answer 1

Если в выводе необходим MultiIndex, используйте rename для того же уровня od MultiIndex:

df = df.loc[:,idx['three',:]] - df.loc[:,idx['two',:]].rename(columns={'two':'three'})
print (df)
first      three          
second       foo       bar
A      -0.861579  3.157731
B      -1.944822  0.772031
C       2.649912  2.621137

Преимущество: можно переименовать оба уровня в новые имена индекса и присоединиться к оригиналу:

df = (df.join(df.loc[:,idx['three',:]].rename(columns={'three':'four'}) - 
              df.loc[:,idx['two',:]].rename(columns={'two':'four'})))
print (df)
first        one                 two               three                four  \
second       foo       bar       foo       bar       foo       bar       foo   
A      -1.085631  0.997345  0.282978 -1.506295 -0.578600  1.651437 -0.861579   
B      -2.426679 -0.428913  1.265936 -0.866740 -0.678886 -0.094709 -1.944822   
C       1.491390 -0.638902 -0.443982 -0.434351  2.205930  2.186786  2.649912   

first             
second       bar  
A       3.157731  
B       0.772031  
C       2.621137  

Если не нужно, используйте DataFrame.xs:

df1 = df.xs('three', axis=1, level=0) - df.xs('two', axis=1, level=0)
print (df1)
second       foo       bar
A      -0.861579  3.157731
B      -1.944822  0.772031
C       2.649912  2.621137

При необходимости первого уровня одним из возможных решений является MultiIndex.from_product:

df1 = df.xs('three', axis=1, level=0) - df.xs('two', axis=1, level=0)
df1.columns = pd.MultiIndex.from_product([['new'], df1.columns], 
                                         names=['first','second'])
print (df1)
first        new          
second       foo       bar
A      -0.861579  3.157731
B      -1.944822  0.772031
C       2.649912  2.621137

Answer 2

В данном конкретном случае, возможно, самый простой способ:

df.loc[:, 'two'] - df.loc[:, 'three']

Почти все, что вам нужно знать о MultiIndex, можно найти в канонических текстах @coldspeed

Answer 3

Вы можете попробовать DataFrame.xs (сечение):

df.xs(('three'), axis=1) - df.xs(('two'), axis=1)