Загрузка данных в BigQuery из облачного хранилища с использованием облачной функции (альтернатива функциям?) - PullRequest
1 голос
/ 13 апреля 2019

В настоящее время я загружаю данные из файла csv в облачном хранилище в BigQuery с помощью облачной функции.

Однако облачные функции имеют ограничение по времени ожидания, и я ожидаю, что эти файлы станут достаточно большими, чтобы вызвать проблемы.

Кроме того, вставка в большой запрос ограничена 10mb/insert_rows.

Что еще можно использовать вместо облачных функций, чтобы это работало? Нужно, чтобы он запускался при переносе файла в облачное хранилище.

1 Ответ

2 голосов
/ 13 апреля 2019

Если вы вставляете файлы из .CSV, используйте задание пакетной загрузки.Запрос BigQuery на загрузку файла занимает менее секунды, и BigQuery продолжит их загрузку в асинхронном режиме.

Эти загрузки бесплатны, и вашей облачной функции не нужно будет ждать ее завершения.

Вы сможете настроить уведомление, которое будет вызывать облачную функцию каждый раз, когда новыйфайл помещен в ваше ведро GCS.

...