воздушный поток: практическое ограничение количества DAGS - PullRequest
0 голосов
/ 13 сентября 2018

Какое практическое ограничение на количество DAGS в системе воздушного потока?

Мы наблюдаем серьезные задержки после создания нескольких сотен DAGS.

Кто-нибудь использует 1000-е DAGS?

1 Ответ

0 голосов
/ 13 сентября 2018

Это зависит от того, как вы запускаете Airflow и сколько ресурсов вы его предоставляете. Вы можете запустить Airflow в распределенном режиме с Celery, Master и Worker с большим объемом памяти и vCores, если у вас огромное количество задач.

...