Каков наилучший подход для перемещения данных между регионами в Snowflake для Федеративного хранилища данных? - PullRequest
0 голосов
/ 28 апреля 2020

Мы создаем Федеративное хранилище данных, используя снежинку i, ei будет иметь выделенный DWH для каждого конкретного c региона, скажем, 3 региона. У меня будет один глобальный DWH в отдельном регионе, для которого нам нужно взять данные из таблиц из другого региона DWH для отчетности. Каков наилучший подход к выполнению того же sh?

Я прочитал и понял, что вы можете выгружать данные из DWH в область в AWS S3 или AZURE BLob в той же области. Это я должен сделать это для всех 3 регионов. Затем у нас есть опция в AWS S3 межрегиональной репликации, которую я могу включить и затем загрузить в Global DWH.

Это был мой подход, который кажется немного длинным и может стоить дополнительных затрат на межрегиональную передачу данных, что в любом случае требуется. Главным образом я не смогу создать поток сквозной. Поскольку все находятся в разных регионах, мне нужно запустить отдельное задание, чтобы выгрузить его на s3 в этом регионе, нужно проверить и начать загрузку после завершения всех трех разгрузок. Рабочий процесс или оркестровка также проблема. Я рассмотрел AWS Функция Batch and Step, но обе региональные службы.

Цените, если кто-то может через свет и варианты? Спасибо!

Ответы [ 2 ]

2 голосов
/ 28 апреля 2020

Я предлагаю вам ознакомиться с документацией Snowflake о репликации баз данных и попросить руководителя вашей учетной записи или инженера по продажам обсудить это с вами, что кажется идеальным для вашего варианта использования.

https://docs.snowflake.com/en/user-guide/database-replication-failover.html

Надеюсь, это поможет ... Рич Марнэйн

0 голосов
/ 28 апреля 2020

Я бы не советовал делать это с S3 и загружать в каждую базу данных.

У вас есть два варианта со Снежинкой, которые гораздо больше подходят для вашего случая использования. Тот, о котором Рич уже упоминал (репликация базы данных). У вас также есть возможность использовать обмен данными через обмен частными данными (пока недоступен во всех регионах) или с помощью обмен данными

...