Возможна ли QueueStream для структурированной потоковой передачи? - PullRequest
0 голосов
/ 10 января 2019

С dStreams, из официальной документации:

Очередь СДР в виде потока: для тестирования приложения Spark Streaming с помощью тестовых данных можно также создать DStream на основе очереди СДР с использованием streamingContext.queueStream (queueOfRDDs). Каждый СДР толкнул в очередь будет рассматриваться как пакет данных в DStream, и обрабатывается как поток.

Итак, для структурированной потоковой передачи я могу или не могу использовать QueueStream в качестве входных данных?

Невозможно найти что-либо в Руководстве по структурированной потоковой передаче 2.3 или 2.4.

Я замечаю memoryStream . Это путь? Я так думаю, и если да, то почему QueueStream больше не будет выбором?

Я преобразовал QueueStreams в поток памяти в качестве входных данных, и он работает нормально, но это то, что требуется?

1 Ответ

0 голосов
/ 22 января 2019

Насколько я понимаю, для структурированной потоковой передачи я не могу использовать QueueStream - так как это dStream.

Имитация потокового ввода со структурированным потоковым потоком работает с memoryStream.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...