происхождение данных не поддерживается в процессоре ListFTP - PullRequest
0 голосов
/ 13 февраля 2020

NiFi версия 1.5.

Каждый день я получаю 50 файлов одновременно с FTP-сервера через ListFTP и FetchFTP. здесь у меня нет проблем при извлечении файлов и дальнейшем использовании других процессоров для модификации и хранения в базе данных.

наконец, у меня есть поток для удаления исходного файла с того же FTP-сервера, как
-> FetchFTP -> UpdateAttribute(success/comm.failure/permission denied) -> logAttribute

, он работал нормально, и вдруг я заметил некоторые необычные поведения в конечном процессоре FetchFTP :

  1. не поддерживает происхождение данных. история потокового файла удаляется через несколько минут.
  2. Ошибка FetchFTP throws "не удалось войти в систему для пользователя 'xxx'".
  3. Также заметил журналы nifi со следующими строками:

    2020-02-12 23: 31: 56,007 ИНФОРМАЦИЯ [Поток обслуживания Provenance-2] oanpPersistentProvenanceRepository Успешно выполнено действие Expiration org. apache .nifi.provenance.lucene. UpdateMinimumEventId@33868e31 в файле событий Provenance / var / lib / nifi /venance_repository / 110062.prov.gz в 617957 nanos 2020-02-12 23: 31: 56,007 ИНФОРМАЦИЯ [Поток обслуживания Provenance-2] oanpexpiration.FileRemovalAction Удален просроченный файл события Provenance /var/lib/nifi/provenance_repository/110062.prov .gz 2020-02-12 23: 31: 56,007 ИНФОРМАЦИЯ [Поток обслуживания Provenance-2] oanpexpiration.FileRemovalAction Удален просроченный файл содержания Provenance /var/lib/nifi/provenance_repository/toc/110062.toc 2020-02- 12 23: 31: 56,007 ИНФОРМАЦИЯ [Поток обслуживания Provenance-2] oanpPersistentProvenanceRepository Успешно выполненное действие истечения срока действия org. * 10 37 * .nifi.provenance.expiration. FileRemovalAction@2f8589e0 в файле событий Provenance /var/lib/nifi/provenance_repository/110062.prov.gz в 157925 нм 2020-02-12 23: 31: 58,157 ОШИБКА [Поток процесса, управляемый таймером -5] oanifi. [id = 1581517837618-1333, контейнер = по умолчанию, раздел = 309], смещение = 0, длина = 0], смещение = 0, имя = 07-1P_MAP_20200212_false_20200211_2020FL.pdf, размер = 0] из имени файла / 07-1P / MAP / 20200211FL.pdf на удаленном хосте FTPIPADDRESS : 21 из-за java .io.IOException: не удалось войти в систему для пользователя ' xxx '; маршрутизация на comms.failure: java .io.IOException: не удалось войти в систему для пользователя ' xxx ' java .io.IOException: не удалось войти в систему для пользователя ' xxx '

другие процессоры поддерживают происхождение данных, кроме этого процессора FetchFTP. Я подозреваю, что что-то пошло не так с процессором FetchFTP. последние 6 месяцев он работал нормально, и внезапно это происходит без каких-либо других изменений в NiFi и его конфигурации.

, пожалуйста, помогите. спасибо.

...