У меня есть функция, которая читает путь к файлу и определяет, является ли он локальным или нет (S3).Я создал декоратор для локального копирования файла, если файл находится в S3.Когда применяется декоратор, функция ничего не возвращает (Нет).
from functools import wraps
def handle_s3_download(fcn):
@wraps(fcn)
def inner(data_fp, *args, **kwargs):
# Handle S3 path
if data_fp.startswith('s3://'):
local_data_fp = os.path.join(FOLDER,
os.path.basename(data_fp))
# Copy file only if necessary.
if not os.path.isfile(local_data_fp):
copy_file_from_s3(data_fp, local_data_fp)
data_fp = local_data_fp
# Call decorated function
fcn(data_fp, *args, **kwargs)
return inner
# Returns None
@handle_s3_download
def load_csv(data_fp):
data = []
with open(data_fp, 'rb') as f:
data = list(csv.reader(f))
return data
def load_json(data_fp):
data = []
if data_fp.startswith('s3://'):
local_data_fp = os.path.join(FOLDER,
os.path.basename(data_fp))
# Copy file only if necessary.
if not os.path.isfile(local_data_fp):
copy_file_from_s3(data_fp, local_data_fp)
data_fp = local_data_fp
with open(data_fp, 'r') as input_file:
data = json.load(input_file)
logging.info('Returning data...')
return data
load_csv('s3://test/test.csv') # Doesn't work
load_json('s3://test/test.csv') # Works