Как отфильтровать строки между двумя датами из файла CSV с помощью Python и перенаправить в другой файл?

Question

Я новичок в Python. У меня есть файл CSV с данными ниже в качестве примера. Я хотел пропустить строки между определенным диапазоном дат (с 2018-08-01 по 2018-08-28) и перенаправить вывод в отдельный файл CSV. Обратите внимание, пробел в заголовке «ПОСЛЕДНЕЕ ИСПОЛЬЗОВАНИЕ».

NUMBER,MAIL,COMMENT,COUNT,LAST USE,PERCENTAGE,TEXTN
343,user1@example.com,"My comment","21577",2018-08-06,80.436%,
222,user2@example.com,"My comment","31181",2018-07-20,11.858%,
103,user3@example.com,"My comment",540,2018-06-14,2.013%,
341,user4@example.com,"My comment",0,N/A,0.000%,

Любая идея будет принята с благодарностью.

Answer 1

документация на диктофон: https://docs.python.org/3/library/csv.html#csv.DictReader

Документация Strptime: https://docs.python.org/3/library/datetime.html#strftime-strptime-behavior

По сути, мы начинаем с открытия файла CSV в виде набора словарей python - по одному для каждой строки, а затем перебираем все строки в CSV.

Для каждой строки мы конвертируем строку даты / времени в фактический объект даты / времени, который python затем может сравнить с вашим диапазоном дат. Если значение находится в пределах диапазона, мы запишем всю строку в отдельный файл CSV.

import datetime, csv

#define all the fieldnames in the input CSV file (for use in creating / appending to output CSV file)
fieldnames = ['NUMBER','MAIL','COMMENT','COUNT','LAST USE','PERCENTAGE','TEXTN']

#open input CSV file as readonly
with open("input.csv", "r") as fin:
    #create a CSV dictionary reader object
    csv_dreader = csv.DictReader(fin)
    #iterate over all rows in CSV dict reader
    for row in csv_dreader:
        #check for invalid Date values
        if 'N/A' not in row['LAST USE']:
            #convert date string to a date object
            datetime_val = datetime.datetime.strptime(row['LAST USE'], '%Y-%m-%d')
            #check if date falls within requested range
            if datetime_val > datetime.datetime(2018, 8, 1) and datetime_val < datetime.datetime(2018, 8, 28):                
                #if it does, open output CSV file for appending
                with open("output.csv", "a") as fout:
                    #create a csv writer object using the fieldnames defined above
                    csv_writer = csv.DictWriter(fout, fieldnames=fieldnames)
                    #write the current row (from the input CSV) to the output CSV file
                    csv_writer.writerow(row)

Answer 2

С пандами это просто:

import pandas as pd

# read file
df = pd.read_csv('file.csv')

# convert to datetime
df['LAST USE'] = pd.to_datetime(df['LAST USE'])

# calculate mask
mask = df['LAST USE'].between('2018-08-01', '2018-08-28')

# output masked dataframes
df[~mask].to_csv('out1.csv', index=False)
df[mask].to_csv('out2.csv', index=False)

Вы также можете комбинировать логические массивы для построения mask. Например:

m1 = df['LAST USE'] >= (pd.to_datetime('now') - pd.DateOffset(days=30))
m2 = df['LAST USE'] <= pd.to_datetime('now')
mask = m1 & m2