У меня есть веб-сервер (Java + Jooby + undertow), которому необходимо периодически загружать модель больших данных (около 200 МБ) из aws s3. И я также сделал все возможное, чтобы избежать проблемы gc: каждый раз, когда большие двоичные данные загружаются в заранее выделенный буфер, и я также использую плоские буферы схемы данных с нулевым копированием для сериализации модели.
Но я нахожу, что каждый раз, когда загружается большая модель, будет всплеск задержки запроса. Я даже пытался отключить десериализацию модели, но пик задержки все еще существует.
Мой вопрос: как я могу загрузить большую модель в веб-сервер без какого-либо влияния на производительность (задержку)?