как найти количество последовательных уменьшений (увеличений)

Question

как найти количество последовательных уменьшений (увеличений)

У меня есть фрейм данных, в котором по 500 000 строк и 12 столбцов по месяцам, включая начало и конец месяца. Каждый столбец представляет месяц. Мне нужно сравнить все строки, i-й месяц и (i + 1) -й месяц в диапазоне (startMonth, endmonth). (Ps: диапазон не постоянен. Ряд бедности имеет другой размер диапазона.)

Условие: если начальный месяц> конечный месяц, я должен увидеть «Neg99 = -999»

Вот мой пример данных:

import pandas as pd
import numpy as np

idx = [1001,1002,1003,1004,1005,1006,1007,1008,1009,1010,1011,1012,1013,1014,1015,1016,1017,1018]
data = {'M_1': [3, 1, 0, 0, 1, 0, 1, 1, 1, 0, 6, 6, 6,0,0,2,0,2],
        'M_2': [2, 2, 3, 1, 1, 0, 1, 2, 0, 1, 5, 5, 5,1,1,1,1,2],
        'M_3': [1, 3, 2, 2, 1, 0, 1, 2, 1, 0, 4, 4, 4,1,1,0,2,2],
        'M_4': [0, 4, 1, 3, 1, 0, 1, 2, 0, 1, 3, 0, 3,1,1,0,0,0],
        'M_5': [1, 0, 0, 4, 2, 0, 1, 3, 1, 0, 2, 1, 2,1,1,0,0,0],
        'M_6': [2, 0, 0, 0, 3, 0, 1, 3, 0, 1, 1, 2, 1,1,1,0,0,0],
        'M_7': [3, 0, 0, 0, 2, 0, 1, 2, 1, 0, 0, 3, 0,0,1,0,0,0],
        'M_8': [0, 1, 0, 0, 2, 0, 1, 2, 0, 1, 1, 1, 1,0,0,0,0,0],
        'M_9': [0, 2, 0, 0, 1, 0, 1, 2, 1, 0, 0, 0, 0,0,0,0,0,0],
        'M_10': [0, 3, 0, 0, 1, 0, 1, 0, 0, 1, 0, 0, 0,0,0,0,0,0],
        'M_11': [0, 0, 0, 0, 0, 0, 1, 0, 1, 0, 0, 0, 0,0,0,0,0,0],
        'M_12': [0, 0, 0, 0, 0, 0, 1, 0, 0, 1, 0, 0, 0,0,0,0,0,0]}



startMonth = pd.DataFrame([1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 4, 4, 5,1,1,1,1,1],
                          columns=['start'],index=idx)
endMonth = pd.DataFrame([12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 12, 2,12,12,2,2,2],
                        columns=['end'], index=idx)

df1 = pd.DataFrame(data, index=idx)
Neg99 = -999

Я написал массив bool для диапазона дат;

arr_bool = (np.less_equal.outer(startMonth.start, range(1,13)) 
            & np.greater_equal.outer(endMonth.end, range(1,13))
            )

masked=df1.filter(regex='M_[0-9]').mask(~arr_bool)

Мне нужно найти последовательные уменьшения и увеличения для каждой строки.

• Вот код уменьшения;

# Consecutive Decreases
decr = (np.diff(np.hstack((masked.values, np.zeros((masked.values.shape[0], 1)))), axis=1) > 0).argmin(axis=1)

final_decr = pd.DataFrame(decr,
                      index=idx, columns=['decr'])


final_decr.decr= np.select( condlist = [startMonth.start > endMonth.end],
                           choicelist = [Neg99],
                           default = final_decr.decr)

• Вот код увеличения;

incr = (np.diff(np.hstack((masked.values, np.zeros((masked.values.shape[0], 1)))), axis=1) < 0).argmin(axis=1)

final_incr = pd.DataFrame(incr,
                      index=idx, columns=['incr'])
final_incr.incr= np.select( condlist = [startMonth.start > endMonth.end],
                           choicelist = [Neg99],
                           default = final_incr.incr)

И, наконец, мои ожидаемые результаты:

Final increase table (.csv);
idx,my_results,expected_result
1001,0,0
1002,3,3
1003,1,1
1004,4,4
1005,0,0
1006,0,0
1007,0,0
1008,1,1
1009,0,0
1010,1,1
1011,0,3
1012,0,0
1013,-999,-999
1014,5,1
1015,6,1
1016,0,0
1017,0,2
1018,0,0

Final decrease table (.csv);
idx,my_result,expected_result
1001,3,3
1002,0,0
1003,0,0
1004,0,0
1005,0,0
1006,0,0
1007,0,0
1008,0,0
1009,1,1
1010,0,0
1011,0,0
1012,0,3
1013,-999,-999
1014,0,0
1015,0,0
1016,0,2
1017,0,0
1018,0,0

Final NoChange table (.csv);
idx,my_result,expected_result
1001,0,0
1002,0,0
1003,0,0
1004,0,0
1005,3,3
1006,11,11
1007,11,11
1008,0,0
1009,0,0
1010,0,0
1011,0,0
1012,0,0
1013,-999,-999
1014,0,0
1015,0,0
1016,0,0
1017,0,0
1018,2,0

Thanks for your advice!

Answer 1

Поэтому я думаю, что вместо argmin вы можете использовать idxmin после переименования столбца, чтобы получить целочисленное значение позиции.Затем удалите значение startMonth, такое как:

incr = (df1.rename(columns={col:int(col.split('_')[1]) for col in masked.columns})
           .diff(-1, axis=1) < 0).mask(~arr_bool).idxmin(axis=1) - startMonth.start
decr = (df1.rename(columns={col:int(col.split('_')[1]) for col in masked.columns})
           .diff(-1, axis=1) > 0).mask(~arr_bool).idxmin(axis=1) - startMonth.start

Затем вы можете сделать np.select, как вы делаете, или, вероятно, просто .illna(-999) должно быть достаточно, как я думаю, с этим решением вездеу вас есть нэн в результате будет где ваше условие startMonth.start > endMonth.end будет выполнено