Дагс не подбирается согласно его расписанию, если интервал расписания меньше значения min_file_process_interval в Airflow.cfg v1.10.2 - PullRequest
0 голосов
/ 14 мая 2019

В файле airflow.cfg я настроил значение min_file_process_interval равным 120 секундам. У даг был интервал расписания, чтобы бежать после каждой минуты. Но это планируется только через каждые 120 секунд (согласно значению min_file_process_interval). Это ожидается?

Я изменил min_file_process_interval на 200 секунд, после чего через 200 секунд начал собираться график перехода. Просто чтобы уточнить, если случай противоположный, то есть интервал расписания dag составляет 2 минуты, а min_file_process_interval равен 1 минуте, тогда dag будет работать нормально в соответствии с его графиком. Ниже мой черт:

from airflow import DAG
from airflow.operators.bash_operator import BashOperator
from datetime import datetime, timedelta

default_args = {
    'owner': 'airflow',
    'depends_on_past': False,
    'start_date': datetime(2019, 5, 14),
    'retries': 0,
}

dag = DAG('print', catchup=False, default_args=default_args, schedule_interval='*/1 * * * *')

t1 = BashOperator(
    task_id='print_date',
    bash_command='echo `date` , ',
    dag=dag)

1 Ответ

0 голосов
/ 14 мая 2019

На поток воздуха документы :

В тех случаях, когда имеется только небольшое количество файлов определений DAG, цикл может потенциально обрабатывать файлы определений DAG много раз в минуту.Чтобы контролировать скорость обработки файла DAG, для min_file_process_interval можно установить более высокое значение.Этот параметр гарантирует, что файл определения DAG обрабатывается не чаще, чем один раз каждые min_file_process_interval секунд.

Это означает, что поток воздуха будет обрабатываться каждые min_file_process_interval секунд.Таким образом, вы должны установить интервал расписания DAG равным min_file_process_interval.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...