В настоящее время я столкнулся с этой проблемой с динамически генерируемыми задачами. Создаваемые задачи используют KubernetesPodOperators. Задача выполняется, но через некоторое время исчезает в графическом представлении. Я могу видеть детали экземпляра задачи (по ссылке на задачу) в течение нескольких минут, но в конечном итоге тоже исчезает. Вот информация, которую я получил из деталей задачи:
В деталях экземпляра задачи:
Dependency: Dagrun Running
Reason: Task instance's dagrun was not in the 'running' state but in the state 'success'.
Dependency: Task Instance State
Reason: Task is in the 'removed' state which is not a valid state for execution. The task must be cleared in order to be run.
Кто-нибудь сталкивается с такой проблемой? Я видел это сообщение об ошибке и выглядело похоже: https://issues.apache.org/jira/browse/AIRFLOW-7116
Также я заметил, что владелец DAG (поле владельца таблицы dag) становится пустым.