Я обновил версию воздушного потока с 1.7.3 до 1.10.1.После обновления планировщика, веб-сервера и рабочих пакеты перестали работать, показывая нижеприведенную ошибку в планировщике -
Либо эта ошибка не существует, либо она не была проанализирована.
У меня нетвнесены какие-либо изменения в конфиг.При изучении проблемы журналы планировщика показывают проблему.Ранее планировщик запускал задачу как -
Добавление в очередь: airflow run <dag_id> <task_id> <execution_date> --local -sd DAGS_FOLDER/<dag_filename.py>
Пока он выполняется с абсолютным путем -
Добавление в очередь: airflow run <dag_id> <task_id> <execution_date> --local -sd /<PATH_TO_DAGS_FOLDER>/<dag_filename.py>
PATH_TO_DAGS_FOLDER
похож на /home/<user>/Airflow/dags...
, что аналогично тому, что он передает его работникам, так как работник работает на каком-то другом пользователе, и он не может найти указанное местоположение dag.
Я не уверен, как сказать работнику, чтобы он смотрел в своем домашнем каталоге с воздушным потоком, а не в планировщике?
Я использую mysql
в качестве бэкэнда и rabbitmq
для передачи сообщений.