Sql просмотров и таблиц миллионы записей - PullRequest
0 голосов
/ 15 апреля 2019

Задача:

  1. Загрузка не менее миллиона строк во временные таблицы.
  2. Создание представлений из целевой таблицы.Каждое представление связано с одной таблицей.Например, представление A, B, C создается из таблицы A, B, C соответственно.
  3. Создайте представление A1, B1 и C1 из таблицы A, B, C соответственно.4. Преобразуйте данные из рабочих таблиц в представление A. (эти данные будут доступны в таблице A)
  4. Теперь преобразуйте данные в представление B, которое зависит от представления A1, представление C, которое зависит от представления B1.

Я использую psql, чтобы запустить их по порядку.Я обеспечиваю задержку 90 секунд между каждым sql.

Например: шаг 5 загрузки вида B и вида C имеет задержку 90

Все работает хорошо, если я запускаю один за другим.

Проблема:

Когда я запускаю это в пакетном соединении, процесс зависает в тех или иных данных преобразования.Как мне решить эту проблему?

Я выполнил запрос A1 после шага 4. Я заметил, что время запроса истекло.Если я запускаю небольшие порции данных, у меня нет проблем.

Что мне не хватает.Большие данные вызывают загрузку данных из таблицы?

...