Загружайте большие файлы правильно, используя AWS lambda и S3 (с существующими ограничениями) - PullRequest
0 голосов
/ 15 сентября 2018

Текущий лимит AWS Lambda на запрос размера пост / пут - 6 МБ Текущий лимит S3 при многоэтапной загрузке составляет 5 МБ чанк

Файл с кодировкой 5 МБ в запросе на загрузку на самом деле занимает более 6 МБ, поэтому решение по прямой загрузке фрагментов в функции лямбды не работает.

Как правильно осуществлять загрузку больших файлов (более 5 Мб)?

После некоторых трудностей я сталкиваюсь с решением использовать правила истечения срока действия объекта в качестве временных файлов для загрузки суб-чанков, а затем, после загрузки суб-чанка, я загружаю нормальный чанк с указанным идентификатором суб-чанка, чтобы извлечь его из временных файлов, а затем объединить в лямбду. функция загрузки чанка с суб чанком, чтобы сделать одну часть не менее 5мб. Это решение работает, но мне все еще нужно ждать, когда будет загружен дополнительный чанк, поэтому полностью параллельная многочастная загрузка не будет работать таким образом (нам все еще нужно ждать, когда будут загружены дополнительные чанки).

Есть лучшие идеи, как решить такую ​​проблему с лимитами S3 и AWS Lambda?

...