Объединить значение в некоторые выбранные столбцы DB2 из набора данных spark. (из кода Spark / Java) - PullRequest
0 голосов
/ 27 февраля 2020

У меня есть набор искровых данных, который я хочу использовать для обновления некоторых столбцов некоторых записей в DB2.

Предположим, что набор данных выглядит (таблица DB2 имеет похожую схему):

root
 |-- ID: string (nullable = false)
 |-- NAME: string (nullable = false)
 |-- DEPT: string (nullable = false)

Теперь я хочу обновить столбцы DEPT таблицы db2 для каждой строки, где table.ID совпадает с dataset.ID (т. Е. Обновить для каждого идентификатора в наборе данных значения DEPT соответствующих записей в таблице db2).

В настоящее время я сначала записываю набор данных в таблицу кустов, а затем использую утилиту INGEST MERGE db2 для выполнения необходимых обновлений.

Я пытался найти ресурсы и посмотреть, сможем ли мы выполнить ту же задачу в один выстрел из того же кода Java / искры.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...