Как указать типы соединения в AWS Glue? - PullRequest
Новая
       27

Как указать типы соединения в AWS Glue?

0 голосов
/ 21 января 2019

Я использую AWS Glue для объединения двух таблиц. По умолчанию он выполняет INNER JOIN. Я хочу сделать левое внешнее соединение. Я ссылался на документацию по AWS Glue, но нет способа передать тип соединения в метод Join.apply (). Есть ли способ добиться этого в AWS Glue? 

## @type: Join
## @args: [keys1 = id, keys2 = "user_id"]
## @return: cUser
## @inputs: [frame1 = cUser0, frame2 = cUserLogins]
#cUser = Join.apply(frame1 = cUser0, frame2 = +, keys1 = "id", keys2 = "user_id", transformation_ctx = "<transformation_ctx>")


## @type: Join
## @args: [keys1 = id, keys2 = user_id]
## @return: datasource0
## @inputs: [frame1 = cUser, frame2 = cKKR]
datasource0 = Join.apply(frame1 = cUser0, frame2 = cKKR, keys1 = "id", keys2 = "user_id", transformation_ctx = "<transformation_ctx>")

## @type: Join
## @args: [keys1 = branch_id, keys2 = user_id]
## @return: datasource1
## @inputs: [frame1 = datasource0, frame2 = cBranch]
datasource1 = Join.apply(frame1 = datasource0, frame2 = cBranch, keys1 = "branch_id", keys2 = "user_id", transformation_ctx = "<transformation_ctx>")

1 Ответ

0 голосов
/ 25 января 2019

В настоящее время соединения LEFT и RIGHT не поддерживаются AWS Glue. Но мы все же можем добиться этого, преобразовав DynamicFrame в DataFrame и используя метод join.

Вот пример: 

cUser0 = glueContext.create_dynamic_frame.from_catalog(database = "captains", table_name = "cp_txn_winds_karyakarta_users", transformation_ctx = "cUser")

cUser0DF = cUser0.toDF()

cKKR = glueContext.create_dynamic_frame.from_catalog(database = "captains", table_name = "cp_txn_winds_karyakarta_karyakartas", redshift_tmp_dir = args["TempDir"], transformation_ctx = "cKKR")

cKKRDF = cKKR.toDF()

dataSource0 = cUser0DF.join(cKKRDF, cUser0DF.id == cKKRDF.user_id,how='left_outer')
...