FileWatcher в каталоге - PullRequest
       3

FileWatcher в каталоге

0 голосов
/ 21 марта 2019

У меня есть приложение Spark / Scala, и мое требование здесь состоит в том, чтобы найти файл в каталоге, обработать его и, наконец, очистить этот каталог.

Разве это невозможно сделать в рамках искрысамо приложение наподобие

- Watching for a file in a directory
- When it finds the file continue the process 
- Cleans up the directory before ending the app
- Repeat the above for the next new run and so on...

В настоящее время мы делаем это file-watching process, используя внешнее приложение, поэтому, чтобы удалить dependency для этого third-party application, мы хотели бы сделать это в самом нашем приложении spark / scala..

Есть ли реальное решение, использующее только scala / spark для средства просмотра файлов?Пожалуйста, ведите меня.

1 Ответ

0 голосов
/ 21 марта 2019

Файловые потоки в потоковом искре?

https://spark.apache.org/docs/latest/streaming-programming-guide.html#file-streams

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...