Добавление поддержки JS UDF в шаблоне Google Dataflow - PullRequest
0 голосов
/ 16 октября 2018

У меня есть этот код из шаблонов потоков данных Google Cloud Platform.

Я хочу добавить к нему больше функциональности, а именно, я хочу добавить поддержку JavaScript UDF.Когда я пытаюсь скомпилировать файл, используя это:

mvn compile exec:java \
-Dexec.mainClass=com.google.cloud.teleport.templates.${PIPELINE_NAME} \
-Dexec.cleanupDaemonThreads=false \
-Dexec.args=" \
--project=${PROJECT_ID} \
--stagingLocation=gs://${PROJECT_ID}/dataflow/${PIPELINE_FOLDER}/staging \
--tempLocation=gs://${PROJECT_ID}/dataflow/${PIPELINE_FOLDER}/temp \
--runner=DataflowRunner \
--windowDuration=2m \
--numShards=1 \
--topic=projects/${PROJECT_ID}/topics/windowed-files \
--outputDirectory=gs://${PROJECT_ID}/temp/ \
--outputFilenamePrefix=windowed-file \
--outputFilenameSuffix=.txt"

При компиляции файла я получаю следующую ошибку:

An exception occured while executing the Java class. Class interface com.google.cloud.teleport.templates.PubsubToText$Options missing a property named 'topic'. -> [Help 1] org.apache.maven.lifecycle.LifecycleExecutionException: Failed to execute goal org.codehaus.mojo:exec-maven-plugin:1.6.0:java (default-cli) on project google-cloud-teleport-java: An exception occured while executing the Java class. Class interface com.google.cloud.teleport.templates.PubsubToText$Options missing a property named 'topic'.

Хотя яВы прошли флаг --topic с соответствующими значениями.

Ответы [ 2 ]

0 голосов
/ 15 ноября 2018

Пример вызова в javadoc теперь должен отражать правильный входной параметр (--inputTopic) здесь .

0 голосов
/ 16 октября 2018

Пример вверху неверен.Вы должны передать --inputTopic вместо --topic.Это можно увидеть в коде , где определен ValueProvider:

@Description("The Cloud Pub/Sub topic to read from.")
@Required
ValueProvider<String> getInputTopic();
void setInputTopic(ValueProvider<String> value);

Вы также можете запустить шаблон из пользовательского интерфейса Console и сведений о задании.покажет, что опция действительно inputTopic:

enter image description here

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...