Запуск Dag с помощью события создания GCS без облачной функции - PullRequest
0 голосов
/ 18 июня 2020

Есть ли способ вызвать облако composer путем прослушивания событий создания GCS без использования облачных функций?

Я наткнулся на эту статью: https://cloud.google.com/composer/docs/how-to/using/triggering-with-gcf, однако, Я временно работаю в не очень технической команде. Следовательно, я пытаюсь запустить рабочий процесс, когда файл создается в определенном сегменте, с минимальными требованиями к ремонтопригодности, насколько это возможно.

1 Ответ

0 голосов
/ 19 июня 2020

Я думаю, что использование облачных функций - это самый простой способ запустить DAG из события облачного хранилища. Другой вариант - использовать Pub / Sub , что кажется более сложным, чем код, показанный в учебнике , которым вы поделились.

Я создал облачные функции для запуска DAG в Composer, и самый сложный шаг - получение только идентификатора веб-сервера.

...