Заменить подмножество фрейма данных в Python, - PullRequest
0 голосов
/ 18 октября 2018

Поэтому я пытаюсь удалить столбцы, если мой Multiindex равен NaN: enter image description here

Весь фрейм данных имеет около 40 000 столбцов и 100 000 строк.

Мне удалось сделать что-то с кодом:

low range = 0
for columns in range(0, len(df.columns), 6000):
idx = df.iloc[:, low_range: columns].T.index.names
    df.iloc[:, low_range: columns]= df.iloc[:, low_range: columns].T.reset_index().dropna(inplace=True).set_index(idx).T
low_range = low_range + len(df.iloc[:, low_range: columns]) 

Но моя проблема в том, что, когда я отбрасываю столбцы с помощью Mulitindex NaN, я хочу заменить эти столбцы новым подмножеством (без NaN Mulitindex).Сейчас я выбираю подмножество из 6000 столбцов.Я знаю, что после dropna() это подмножество будет меньше.

Я пытаюсь заменить это новое подмножество вместо предыдущих 6000 столбцов и выбрать новое подмножество, чтобы сделать то же самое ...

Кто-нибудь может помочь с этим?

Заранее спасибо!

PS: я не могу просто отбросить столбцы вроде: df.dropna(axis=1) ... если вы знаете лучший способ сделать это, я буду великолепен!

...