Есть ли способ переместить последние данные вставки красного смещения в s3? - PullRequest
0 голосов
/ 08 мая 2020

Честно говоря, требование бизнес-команды, недавно добавленные данные должны перемещаться в s3 .. а s3 иметь историю записей. посмотрел ниже варианты

  1. Посмотрел на Lambda и не смог найти триггера события для красного смещения.
  2. Kinesis Firehose - нет источника для настройки красного смещения.

Пожалуйста, предложите лучший способ перемещения данных.

мы добавили новый столбец - is_processed - new данные, помеченные как '1', иначе 0. Из лямбда мы фильтруем на основе is_processed = 1 и выбранные данные перемещаются в S3 .. Но проблема не в триггере СОБЫТИЯ для Redshift. Мы запланировали конкретное время задания и перемещаем данные в s3 ..

Примечание: используя Lambda (команда выгрузки), я переместил данные красного смещения в s3 (снимок) на основе данных.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...