Пакетный поток данных или потоковая вставка в пояснение BigQuery - PullRequest
0 голосов
/ 31 декабря 2018

Учитывая, что потоковые вставки в BigQuery сопряжены с расходами, означает ли использование Dataflow для чтения из ограниченной коллекции (или пакетного режима) затраты с точки зрения BigQuery?И я верю, только когда чтение из неограниченной коллекции (в потоковом режиме) и запись в BigQuery считается потоковой вставкой в ​​BigQuery?

1 Ответ

0 голосов
/ 01 января 2019

Вы правы, так как указано в источниках :

Если вход ограничен, будет использоваться загрузка файлов.Если вход неограничен, то будут использоваться потоковые вставки.

Поведение по умолчанию можно перезаписать, используя .setMethod(Write.Method.FILE_LOADS) или .setMethod(Write.Method.STREAMING_INSERTS) в объекте построителя BigQueryIO.

...