Spark Structured Streaming тест поздних данных - PullRequest
1 голос
/ 23 марта 2020

Привет, мне было интересно, можно ли манипулировать временем обработки в модульных тестах, чтобы позволить тестирование поздних данных в Spark Structured Streaming.

Я вставляю данные в виде последовательности в MemoryStream в форме : case class LineWithTimestamp(line: String, timestamp: Timestamp). При вставке LineWithTimestamp("a b b a", from(now.plus(ofSeconds(4)))) я хочу, чтобы это событие произошло через несколько секунд, чтобы я мог проверить допустимые задержки / водяные знаки.

Заранее спасибо.

...