S3 файл в Mysql AWS через Airflow - PullRequest
       21

S3 файл в Mysql AWS через Airflow

0 голосов
/ 26 сентября 2019

Последние пару месяцев я изучал, как использовать Apache-Airflow, и хотел узнать, есть ли у кого-нибудь опыт переноса файлов CSV из S3 в базу данных Mysql в AWS (RDS).Или с моего локального диска на MySQL.

Мне удалось отправить все в корзину S3 для хранения их в облаке с помощью airflow.hooks.S3_hook, и это прекрасно работает.Я использовал boto3, чтобы сделать это.Теперь я хочу отправить этот файл в базу данных MySQL, созданную в RDS, но не знаю, как это сделать.Нужно ли использовать ловушку MySQL и добавлять туда свои учетные данные, а затем писать функцию python?

Кроме того, это не обязательно должен быть S3 для Mysql, я также могу попробовать с моего локального диска в Mysql, еслиэто проще.

Любая помощь будет потрясающей!

...