Интеграция Azure Event Hubs с Apache Spark в Python - PullRequest
0 голосов
/ 24 января 2019

Я хотел бы знать, есть ли что-нибудь , например, , это в python?

Если так, не могли бы вы предоставить какие-нибудь веб-примеры с примерами?

ДОПОЛНИТЕЛЬНО:

Если вы попытаетесь запустить его как обычную программу на Python, он выдаст вам ошибку:

Запустите его, используя:

spark-submit --packages com.microsoft.azure:azure-eventhubs-spark_2.11:2.3.9 nameoffile.py

1 Ответ

0 голосов
/ 24 января 2019

https://docs.databricks.com/_static/notebooks/structured-streaming-python.html

https://github.com/Azure/azure-event-hubs-spark/blob/master/docs/PySpark/structured-streaming-pyspark.md

# Source with default settings
connectionString = "YOUR.CONNECTION.STRING"
ehConf = {
  'eventhubs.connectionString' : connectionString
}

df = spark \
  .readStream \
  .format("eventhubs") \
  .options(**ehConf) \
  .load()
...