Как отсортировать экспортированные данные Firebase на BigQuery без превышения ресурса? - PullRequest
0 голосов
/ 12 октября 2018

Я использую Firebase Analytics и экспортирую данные в BigQuery.Теперь я хотел бы отфильтровать данные и отсортировать их по отметке времени.Я написал этот запрос:

SELECT event_timestamp, event_name, event_params, user_id,
user_pseudo_id, user_properties, STRUCT(device.category,
device.time_zone_offset_seconds, device.is_limited_ad_tracking) device,
platform FROM `myTable` ORDER BY event_timestamp;

Но это приводит Error: Resources exceeded during query execution: The query could not be executed in the allotted memory. Sort operator used for ORDER BY used too much memory...Я думаю, что данные слишком велики, чтобы поместить их в память BigQuery.

Причина, по которой мне приходится сортировать данные, заключается в том, что я хотел бы загрузить данные и проанализировать их в моем локальном приложении в порядке возрастания.метки времени.И если я изменю роль сортировки на свое приложение, это может занять много времени.

Я не знаю полностью о функции Google Cloud Platform.Есть ли хороший способ сортировки огромных данных в GCP?

...