Очистка и подготовка данных для Time-Series-LSTM - PullRequest
Новая
       60

Очистка и подготовка данных для Time-Series-LSTM

0 голосов
/ 07 мая 2019

Мне нужно подготовить мои Данные, чтобы передать их в LSTM для прогнозирования на следующий день.Мой набор данных - это временной ряд в секундах, но у меня есть только 3-5 часов данных в день.(У меня просто есть этот конкретный набор данных, поэтому я не могу его изменить) У меня есть Date-Time и определенный Value.Например: 

datetime..............Value      
2015-03-15 12:00:00...1000

2015-03-15 12:00:01....10

.

.

Я хотел бы написать код, в котором я извлекаю, например, 4 часа, и удаляю первый извлеченный час только для определенных месяцев (потому что эти данные неверны).Мне удалось написать код для извлечения, например, 2 часа для x-Data (вход) и y-Data (выход).Я надеюсь, что смогу объяснить вам свою проблему.

Набор данных - 1 год в секундах.Например, в августе-ноябре первый час является ошибочными данными и должен быть удален. 

init = True
for day in np.unique(x_df.index.date):
    temp = x_df.loc[(day + pd.DateOffset(hours=18)):(day + pd.DateOffset(hours=20))]

if len(temp) == 7201:
if init:
    x_df1 = np.array([temp.values])
    init = False
else:
    #print (temp.values.shape)
    x_df1 = np.append(x_df1, np.array([temp.values]), axis=0)
#else:
#if not temp.empty:
    #print (temp.index[0].date(), len(temp))

x_df1 = np.array(x_df1)

print('X-Shape:', x_df1.shape, 
'Y-Shape:', y_df1.shape)
#sample, timesteps and features for LSTM
X-Shape: (32, 7201, 6) Y-Shape: (32, 7201)

Мой ожидаемый результат - иметь набор данных, например, 4 часа в день, когда первый час, например, август, сентябрь,а октябрь удален.Я был бы также очень рад, если бы кто-то мог также предоставить мне более хороший код для этого.

1 Ответ

0 голосов
/ 08 мая 2019

Возможно, не самое эффективное решение, но, возможно, оно все еще подходит.

Сначала давайте сгенерируем случайные данные за первые 4 месяца и 5 дней в месяц: 

import random
import pandas as pd

df = pd.DataFrame()
for month in range(1,5): #First 4 Months
    for day in range(5,10): #5 Days
        hour = random.randint(18,19)
        minute = random.randint(1,59)
        dt = datetime.datetime(2018,month,day,hour,minute,0)
        dti = pd.date_range(dt, periods=60*60*4, freq='S')
        values = [random.randrange(1, 101, 1) for _ in range(len(dti))]
        df = df.append(pd.DataFrame(values, index=dti, columns=['Value']))

Теперь давайтеопределите функцию для фильтрации первой строки в день: 

def first_value_per_day(df):
    res_df = df.groupby(df.index.date).apply(lambda x: x.iloc[[0]])
    res_df.index = res_df.index.droplevel(0)
    return res_df

и напечатайте результаты: 

print(first_value_per_day(df))

                     Value
2018-01-05 18:31:00     85
2018-01-06 18:25:00     40
2018-01-07 19:54:00     52
2018-01-08 18:23:00     46
2018-01-09 18:08:00     51
2018-02-05 18:58:00      6
2018-02-06 19:12:00     16
2018-02-07 18:18:00     10
2018-02-08 18:32:00     50
2018-02-09 18:38:00     69
2018-03-05 19:54:00    100
2018-03-06 18:37:00     70
2018-03-07 18:58:00     26
2018-03-08 18:28:00     30
2018-03-09 18:34:00     71
2018-04-05 18:54:00      2
2018-04-06 19:16:00    100
2018-04-07 18:52:00     85
2018-04-08 19:08:00     66
2018-04-09 18:11:00     22

Итак, теперь нам нужен список конкретных месяцев, которые должны быть обработаны, в данном случае 2 и 3. Теперь мы используем определенную функцию и фильтруем дни для каждого выбранного месяца и перебираем их по тем дням, чтобы найти индексы всех значений внутри первой записи за день +1 час иотбросьте их: 

MONTHS_TO_MODIFY = [2,3]
HOURS_TO_DROP = 1

fvpd = first_value_per_day(df)
for m in MONTHS_TO_MODIFY:
    fvpdm = fvpd[fvpd.index.month == m]
    for idx, value in fvpdm.iterrows():
        start_dt = idx
        end_dt = idx + datetime.timedelta(hours=HOURS_TO_DROP)
        index_list = df[(df.index >= start_dt) & (df.index < end_dt)].index.tolist()
        df.drop(index_list, inplace=True)

результат: 

print(first_value_per_day(df))

                     Value
2018-01-05 18:31:00     85
2018-01-06 18:25:00     40
2018-01-07 19:54:00     52
2018-01-08 18:23:00     46
2018-01-09 18:08:00     51
2018-02-05 19:58:00      1
2018-02-06 20:12:00     42
2018-02-07 19:18:00     34
2018-02-08 19:32:00     34
2018-02-09 19:38:00     61
2018-03-05 20:54:00     15
2018-03-06 19:37:00     88
2018-03-07 19:58:00     36
2018-03-08 19:28:00     38
2018-03-09 19:34:00     42
2018-04-05 18:54:00      2
2018-04-06 19:16:00    100
2018-04-07 18:52:00     85
2018-04-08 19:08:00     66
2018-04-09 18:11:00     22
...