Поэтому я пытаюсь удалить столбцы, если мой Multiindex равен NaN:
Весь фрейм данных имеет около 40 000 столбцов и 100 000 строк.
Мне удалось сделать что-то с кодом:
low range = 0
for columns in range(0, len(df.columns), 6000):
idx = df.iloc[:, low_range: columns].T.index.names
df.iloc[:, low_range: columns]= df.iloc[:, low_range: columns].T.reset_index().dropna(inplace=True).set_index(idx).T
low_range = low_range + len(df.iloc[:, low_range: columns])
Но моя проблема в том, что, когда я отбрасываю столбцы с помощью Mulitindex NaN, я хочу заменить эти столбцы новым подмножеством (без NaN Mulitindex).Сейчас я выбираю подмножество из 6000 столбцов.Я знаю, что после dropna()
это подмножество будет меньше.
Я пытаюсь заменить это новое подмножество вместо предыдущих 6000 столбцов и выбрать новое подмножество, чтобы сделать то же самое ...
Кто-нибудь может помочь с этим?
Заранее спасибо!
PS: я не могу просто отбросить столбцы вроде: df.dropna(axis=1)
... если вы знаете лучший способ сделать это, я буду великолепен!