Как обратиться к основному экземпляру кластера EMR в сценарии облачной информации? - PullRequest
Новая
       5

Как обратиться к основному экземпляру кластера EMR в сценарии облачной информации?

0 голосов
/ 01 мая 2018

Я пытаюсь запустить стек облачной информации, чтобы создать кластер EMR и подключить балансировщик нагрузки к главному узлу этого EMR.

Для генерации кластера EMR я использую следующий код в моем стеке: 

"EmrCluster": {
      "Type": "AWS::EMR::Cluster",
      "DependsOn": "nat0a30a49f0c2913dc4",
      "Properties": {
        "Name": "EmrCluster",
        "Applications": [
          {
            "Name": "Spark"
          },
          {
            "Name": "Hive"
          },
          {
            "Name": "Hadoop"
          },
          {
            "Name": "Livy"
          },
          {
            "Name": "Hue"
          },
          {
            "Name": "Zeppelin"
          }
        ],
        "Instances": {
          "AdditionalMasterSecurityGroups": [
              {
                "Ref": "sgMaster"
              }
          ],
          "Ec2KeyName": {"Ref": "KeyName"},
          "Ec2SubnetId": {"Ref": "subnet03ead9bfe3352d90b"},
          "MasterInstanceGroup": {
            "InstanceCount": 1,
            "InstanceType": "m3.xlarge",
            "Name": "Master",
          },
          "CoreInstanceGroup": { 
            "InstanceCount": 2,
            "InstanceType": "m3.xlarge",
            "Name": "Core",
          }
        },
        "Configurations": [
          {
            "Classification": "spark-env",
            "Configurations": [
              {
                "Classification": "export",
                "ConfigurationProperties": {
                  "PYSPARK_PYTHON": "/usr/bin/python3"
                }
              }
            ]
          }
        ],
        "JobFlowRole": "EMR_EC2_DefaultRole",
        "ServiceRole": "EMR_DefaultRole",
        "ReleaseLabel": "emr-5.13.0"
      }
    },

Чтобы подключить балансировщик нагрузки к главному узлу вышеуказанного кластера, мне нужно добавить instanceID мастер-узла в следующем коде: 

"loadBalancer" : {
      "Type": "AWS::ElasticLoadBalancingV2::LoadBalancer",
      "Properties": {
        "Subnets" : [ {"Ref": "subnet04a1fe03c3f3c42fd"}, {"Ref" : "subnet03ead9bfe3352d90b"} ]
      }
    },
    "TargetGroup" : {
      "Type" : "AWS::ElasticLoadBalancingV2::TargetGroup",
      "Properties" : {
        "HealthCheckIntervalSeconds": 30,
        "HealthCheckProtocol": "HTTP",
        "HealthCheckTimeoutSeconds": 10,
        "HealthyThresholdCount": 5,
        "Matcher" : {
          "HttpCode" : "200"
        },
        "Name": "MyTargets",
        "Port": 8890,
        "Protocol": "HTTP",
        "Targets": [
          { "Id": {"Ref" : "MasternodeID"}, "Port": 8890 }
        ],
        "UnhealthyThresholdCount": 3,
        "VpcId": {"Ref" : "vpc07164705742b384fb"}
      }
    }

Как я могу найти и передать instanceID главного узла кластера EMR в качестве "MasternodeID" в целевой группе. Проще говоря, как я могу получить instanceID главного узла кластера EMR, созданного в том же стеке.

...