Я хочу получить RDD из источника сообщений в реальном времени (в настоящее время сокет), чтобы заменить строку кода, которая используется для чтения из локального файла sc.newAPIHadoopFile()
. Чтобы сохранить структуру проекта, я должен получить RDD вместо DStream из этого источника. Я попытался реализовать собственный приемник, но StreamingContext.receiverStream()
дает мне только DStream. Как я могу это сделать?
Я пытался преобразовать DStream в RDD с помощью compute
, но это не имело никакого смысла, и я потерпел неудачу. Поэтому я повернулся, чтобы узнать, как напрямую получать СДР с помощью приемника.