Если это реальное требование клиента, которое у вас есть, то первое, что я бы предложил, - это поработать с ними, чтобы понять бизнес-требования, лежащие в основе этого технического требования, если у них есть бюджет для удовлетворения технического требования. Затем, чтобы проверить, существует ли лучший способ удовлетворения бизнес-требований, чем с техническим требованием, описанным выше. Причиной этого являются некоторые технические проблемы, приведенные ниже:
Чтобы спросить, как долго это будет продолжаться и купить много места на диске? Это инкрементное или перезаписывающее?
Каждый день в течение года или каждый день в течение следующих 20 лет и т. Д.
Даже если вы предполагаете, что каждое поле имеет размер только один байт, это работает примерно на 1/2 терабайта в день. Если каждый день это другой набор записей, то это будет суммироваться.
Тогда посмотрите на сторону импорта. Это снова фантастическое количество строк в секунду.