Как я могу получать сообщения в виде RDD вместо DStream из источника в реальном времени с настраиваемым получателем? - PullRequest
0 голосов
/ 11 июля 2019

Я хочу получить RDD из источника сообщений в реальном времени (в настоящее время сокет), чтобы заменить строку кода, которая используется для чтения из локального файла sc.newAPIHadoopFile(). Чтобы сохранить структуру проекта, я должен получить RDD вместо DStream из этого источника. Я попытался реализовать собственный приемник, но StreamingContext.receiverStream() дает мне только DStream. Как я могу это сделать?

Я пытался преобразовать DStream в RDD с помощью compute, но это не имело никакого смысла, и я потерпел неудачу. Поэтому я повернулся, чтобы узнать, как напрямую получать СДР с помощью приемника.

...