Перемещение многих таблиц данных BigQuery с помощью GCP Cloud Composer - PullRequest
0 голосов
/ 08 февраля 2019

Я использую Cloud Composer для перемещения таблиц BigQuery из одного региона в другой, следуя приведенной ниже документации: https://cloud.google.com/blog/products/data-analytics/how-to-transfer-bigquery-tables-between-locations-with-cloud-composer

Я запускаю образец задания на 7 таблицах, и он завершается примерно через минуту, когдаЯ масштабирую это до 300 таблиц, все задания терпят неудачу, и в AirFLow очень мало информации о том, почему.

В настоящее время я использую 3 узла, может быть, мне нужно увеличить это для масштаба этой работы?Что еще может привести к сбою задания при увеличении?

...