Azure ADF, как гарантировать, что те же файлы, которые копируются, также удаляются? - PullRequest
0 голосов
/ 14 января 2020

Использование Azure ADF и в настоящее время мои настройки следующие:

Событие основано на входном BLOB при загрузке файла. Загрузка файла запускает операцию копирования для вывода BLOB, и за этим действием следует операция удаления входного BLOB. Входной BLOB может принимать 1 или несколько файлов одновременно (не уверен, как часто файл сканируется / как быстро событие запускает конвейер). Читая документацию по функции удаления, он говорит:

Make sure you are not deleting files that are being written at the same time.

Будут ли мои текущие настройки удалять файлы, которые записываются?

Триггер на основе события при загрузке файла >> Запись из входного BLOB-объекта в выходной BLOB-объект >> Удалить входной BLOB-объект

Я нашел альтернативное решение, которое выполняет операцию получения метаданных на основе события в начало конвейера, а затем делает для l oop, который удаляет файлы в конце, хотя не уверен, если это необходимо. Достаточно ли моего исходного решения в маловероятном случае, когда я получаю файлы каждые 15 секунд или около того?

Кроме того, пока я нахожусь в процессе получения метаданных, как я могу получить фактический путь к файлу, не только имя файла?

Спасибо за помощь.

1 Ответ

1 голос
/ 15 января 2020

Удалить активный говорит:

  • Убедитесь, что вы не удаляете файлы, которые записываются одновременно.

Ваши настройки :

  • Триггер на основе события при загрузке файла >> Запись из входного BLOB-объекта в выходной BLOB-объект >> Удалить входной BLOB-объект

Только после окончания активного Write from input Blob to Output Blob (удаление файлы не записываются), тогда Delete input Blob может работать.

Ваши вопросы: удалит ли моя текущая установка файлы, которые записываются?

Так вы проверили эти шаги? Вы должны проверить сами, и вы получите ответ.

Обратите внимание:

Операция удаления не поддерживает удаление списка папок, описываемых подстановочными знаками.

Любые другие предложения:

Вам не нужно удалять активные элементы, чтобы удалить входной BLOB-объект после завершения Write from input Blob to Output Blob.

Вы можете узнать из Поток данных Поддержка исходных настроек удаляет исходный файл (входной BLOB-объект) после завершения активной копии. enter image description here

Надеюсь, это поможет.

...