Лучший способ для периодической c массовой загрузки данных в EDW - API ReST или напрямую через запросы DB SQL - PullRequest
0 голосов
/ 09 июля 2020

На моем предприятии у нас есть приложение, которое предоставляет API-интерфейс ReST для всех транзакционных данных и использует бэкэнд Oracle DB. До сих пор существовала политика, согласно которой все передачи данных между двумя приложениями (или микросервисами) должны происходить только через API ReST (без доступа схемы БД к схеме других приложений). Недавно деловые люди пришли с просьбой о массовом вводе данных в систему корпоративного хранилища данных (EDW). Предполагается, что это будет периодическая c подача (один раз в день) полных данных для некоторых сущностей, хранящихся в некоторых из наших таблиц. Теперь моя дилемма такова -

  1. Должен ли я попросить команду EDW использовать мой обычный API ReST - список запросов, чтобы получить все идентификаторы объектов, а затем запросить детали api, чтобы получить сведения об отдельных объектах ? Не займет ли это много времени, учитывая, что им нужны данные по всем объектам? Кроме того, это может отрицательно повлиять на производительность моих обычных пользовательских транзакций, если EDW будет продолжать делать запрос за запросом для всех объектов данных один за другим. объект, который нужен EDW ? Поскольку этот список может только увеличиваться со временем, я беспокоюсь, что скоро у меня истечет тайм-аут приложения, и передача данных перестанет работать. В качестве альтернативы, возможно, я могу отправить только дельту с момента последнего запроса. Но это все же может отрицательно сказаться на производительности обычных пользовательских транзакций, не так ли? (Мы поддерживаем время ответа 1 se c для нашего API почти для 80-90% запросов и в течение 3 se c для всех запросов.)
  2. Следует ли мне запрашивать исключение и EDW будет разрешен доступ для чтения к выбранным таблицам (или, возможно, к представлению, созданному из нескольких таблиц только для нужд EDW) в выбранных схемах в нашей Oracle БД?
  3. Или есть ли лучший подход / отраслевой стандарт , о котором я не знаю?

Я новичок в том, что касается EDW, поэтому я хочу понять от всех вас, опытных людей, что будет лучший подход для моего случая и почему.

Любая помощь будет принята с благодарностью.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...