Есть ли какой-нибудь сеанс в AWS Glue Jobs? - PullRequest
0 голосов
/ 01 апреля 2020

В моем AWS Glue Workflow (определенном с помощью CloudFormation) у меня есть несколько заданий (pythonshell), которые имеют повторяющийся лог c для создания некоторых параметров, таких как одна и та же строка соединения с БД и c. Также есть повторяющиеся логи c через Boto3, такие как:

import boto3
sm_client = boto3.client(service_name='secretsmanager', region_name=region_name)
db_password = sm_client.get_secret_value(SecretId="MY_DB_PASSWORD")["SecretString"]

для извлечения относительного пароля БД.

Как уже говорилось, этот вид логи c повторяется через несколько рабочих мест. Есть ли какой-либо сеанс сортировки или у вас есть идея о хранении такого рода информации в нескольких заданиях для одного и того же рабочего процесса?

1 Ответ

0 голосов
/ 08 апреля 2020

Вы можете обмениваться информацией в Glue Jobs, используя свойства рабочего процесса, определенные в этом https://docs.aws.amazon.com/glue/latest/dg/workflow-run-properties-code.html

Но для конфиденциальной информации я бы предпочел использовать SecretManager или соединение с базой данных Glue.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...