Считать файл Excel из S3 в Pandas DataFrame - PullRequest
0 голосов
/ 14 января 2019

У меня есть настройка уведомлений SNS, которая запускает функцию Lambda при загрузке файла .xlsx в корзину S3.

Лямбда-функция считывает файл .xlsx в Pandas DataFrame.

import os 
import pandas as pd
import json
import xlrd
import boto3

def main(event, context):
    message = event['Records'][0]['Sns']['Message']
    parsed_message = json.loads(message)
    src_bucket = parsed_message['Records'][0]['s3']['bucket']['name']
    filepath = parsed_message['Records'][0]['s3']['object']['key']

    s3 = boto3.resource('s3')
    s3_client = boto3.client('s3')

    obj = s3_client.get_object(Bucket=src_bucket, Key=filepath)
    print(obj['Body'])

    df = pd.read_excel(obj, header=2)
    print(df.head(2))

Я получаю сообщение об ошибке, как показано ниже:

Invalid file path or buffer object type: <type 'dict'>: ValueError
Traceback (most recent call last):
File "/var/task/handler.py", line 26, in main
df = pd.read_excel(obj, header=2)
File "/var/task/pandas/util/_decorators.py", line 178, in wrapper
return func(*args, **kwargs)
File "/var/task/pandas/util/_decorators.py", line 178, in wrapper
return func(*args, **kwargs)
File "/var/task/pandas/io/excel.py", line 307, in read_excel
io = ExcelFile(io, engine=engine)
File "/var/task/pandas/io/excel.py", line 376, in __init__
io, _, _, _ = get_filepath_or_buffer(self._io)
File "/var/task/pandas/io/common.py", line 218, in get_filepath_or_buffer
raise ValueError(msg.format(_type=type(filepath_or_buffer)))
ValueError: Invalid file path or buffer object type: <type 'dict'>

Как мне решить эту проблему?

Ответы [ 2 ]

0 голосов
/ 14 января 2019

Если obj словарь, вы можете попробовать

df = pd.DataFrame.from_dict(obj)

Документация здесь если вам нужно изменить параметры.

0 голосов
/ 14 января 2019

Это совершенно нормально! obj - это словарь, ты пробовал?

df = pd.read_excel(obj['body'], header=2)
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...