В рамках обновления версии EMR Cluster до 5.20.0. Все фреймворки в кластере Big Data Frameworks и версии AWS Services были обновлены до последних версий.
Например:
Spark 2.3.2 до Spark 2.4.0
Престо от 0,212 до 0,214
При тестировании стабильности и совместимости версий с приложением мы обнаружили 1 серьезную проблему.
Т.е., aws cli не работает из-за того, что конфигурационный файл aws в кластере создается с именем региона равным нулю.
Ошибка в файле конфигурации:
s3 = signature_version = s3v4
регион = ноль
Учитывая, что я являюсь разработчиком или тестером, когда я создаю новый кластер EMR с конвейером Jenkins, вышеприведенная ошибка должна быть устранена, и aws cli должен работать без сбоев.