Azure Фабрика данных - динамическое копирование данных - PullRequest
0 голосов
/ 05 августа 2020

Я хочу использовать фабрику данных azure для работы с кучей sql запросов. Сценарий, на который я нацелен, следующий:

  1. Препроцессор генерирует множество (100+) sql файлов с запросами HANA для извлечения. Их можно запустить в SAP HANA, при этом каждый результат будет сохранен. У меня есть приложение, которое делает это, и оно работает.
  2. Я хочу переместить это в Azure Фабрику данных, так как ему нужно go через Azure среду выполнения самостоятельной интеграции, если она запущена от Azure. Другими словами, при работе в облаке единственным вариантом является коннектор ADF SAP HANA (который поддерживает операцию копирования данных).
  3. В идеале я мог бы указать что-то в список из sql файлов, выполните каждый из них и сохраните результаты отдельно. Если бы я мог каким-то образом подключиться к записной книжке или настраивать действие, этого было бы достаточно. Возможно ли это?

Как лучше всего этого добиться? Думаю, я мог бы программно сгенерировать более 100 копий операций с данными, но это кажется тяжелым, и, если позже потребуются дополнительные файлы, я бы изменил определение конвейера.

1 Ответ

0 голосов
/ 06 августа 2020

В этом случае я бы рекомендовал использовать sq oop. Я использовал Apache Sq oop около трех лет go для перемещения данных SAP HANA в Azure Blob, и это работало как мятный двор.

...