Укажите версию коннектора при инициализации кластера с API 'cluster.create' - PullRequest
Новая
       12

Укажите версию коннектора при инициализации кластера с API 'cluster.create'

0 голосов
/ 14 января 2019

Я использую API clusters.create в Python для создания кластеров в Dataproc. 

{
 "projectId": "my-project-id",
 "clusterName": "example-cluster",
 "config": {
"configBucket": "",
"gceClusterConfig": {
  "subnetworkUri": "default",
  "zoneUri": "us-central1-b"
},
"masterConfig": {
  "numInstances": 1,
  "machineTypeUri": "n1-standard-4",
  "diskConfig": {
    "bootDiskSizeGb": 500,
    "numLocalSsds": 0
  }
},
"workerConfig": {
  "numInstances": 2,
  "machineTypeUri": "n1-standard-4",
  "diskConfig": {
    "bootDiskSizeGb": 500,
    "numLocalSsds": 0
  }
},
"initializationActions": [
  {
    "executableFile": "gs://cloud-example-bucket/my-init-action.sh"
   }
  ]
 }
 }

В оболочке gcloud версия коннектора и исполняемые файлы указываются как: 

gcloud dataproc clusters create <CLUSTER_NAME> \
    --initialization-actions gs://dataproc-initialization- 
    actions/connectors/connectors.sh \
    --metadata 'gcs-connector-version=1.7.0' \
    --metadata 'bigquery-connector-version=0.11.0'

Как передать версии коннектора (под метаданными) в API.

Запуск моего скрипта без передачи версий выдает следующие ошибки:

ERROR: None of connector versions are specified' ERROR: None of connector versions are specified + exit 1

1 Ответ

0 голосов
/ 16 января 2019

Поле метаданных можно указать в config / gceClusterConfig следующим образом: 

'config': {
        'gceClusterConfig': {
             "metadata": {
                 "bigquery-connector-version": "0.12.1",
                 "gcs-connector-version": "1.8.1"
                         }
                       }
          }
...