Dataproc: менеджер развертывания, эквивалентный gcloud --опциональные компоненты ANACONDA, JUPYTER - PullRequest
0 голосов
/ 15 октября 2019

Я хотел бы включить --optional-components ANACONDA,JUPYTER в мое развертывание CICD с помощью диспетчера развертывания

Я попытался поместить его в конфигурацию шаблона Python в разделе метаданных, а также непосредственно в свойствах, я проверил схемы, существующие шаблоныОднако, я не могу найти подходящее место для этого или что-либо связанное с документацией (возможно, я что-то пропустил, но я только достиг части CLI gcloud, не эквивалентной DM)

Мой ожидаемый результат будет иметь --optional-components ANACONDA,JUPYTER внутри: `

resources = []

# cluster X
resources.append({
    'name': 'X',
    'type': 'dataproc.py',
    'subnetwork': 'default',
    'properties': {
        'zone': ZONE,
        'region': REGION,
        'serviceAccountEmail': 'X',
        'softwareConfig': {
            'imageVersion': 'X',
            'properties': {
                'dataproc:dataproc.conscrypt.provider.enable' : 'False'
            }
        },
        'master': {
            'numInstances': 1,
            'machineType': 'n1-standard-1',
            'diskSizeGb': 50,
            'diskType': 'pd-standard',
            'numLocalSsds': 0
        }, 
        'worker': {
            'numInstances': 2,
            'machineType': 'n1-standard-1',
            'diskType': 'pd-standard',
            'diskSizeGb': 50,
            'numLocalSsds': 0
        },
        'initializationActions':[{
            'executableFile': 'X'
        }],
        'metadata': {
            'PIP_PACKAGES':'requests_toolbelt==0.9.1 google-auth==1.6.31'
        },
        'labels': {
            'environment': 'dev',
            'data_type': 'X'
        }
    }
})`

1 Ответ

0 голосов
/ 17 октября 2019

Диспетчер развертывания использует только API-интерфейсы, и только поддерживает определенные API-интерфейсы . Для вашего случая написания --optional-components ANACONDA, JUPYTER, пожалуйста, следуйте по этой ссылке по мере вашего закрытия. Чтобы получить подробную информацию о облачных компонентах dataproc , обратитесь к справочнику API dataproc .

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...