Генератор миниатюр AWS Lambda не работает с файлами большего размера - PullRequest
0 голосов
/ 15 мая 2019

Итак, я следовал этому уроку от amazon: https://docs.aws.amazon.com/lambda/latest/dg/with-s3-example.html, чтобы создать генератор миниатюр для каждого изображения, которое я загружаю в свою корзину S3.Он отлично работает на небольших изображениях размером около 500 КБ и правильно помещает их в корзину миниатюр, но я попытался загрузить файл изображения размером 300 МБ в мою корзину S3, и моя лямбда-функция работает неправильно.

Я просмотрел другие форумы и попытался поиграться с некоторыми настройками тайм-аута и размера памяти в AWS Lambda, потому что я подумал, что функции, возможно, нужно больше памяти, но это не так, и я лично неНе знаю, что еще мне осталось.

Вот копия лямбда-функции прямо из ссылки, которую я использовал, ошибка появляется в строке 57, когда устанавливаются MAX_HEIGHT и MAX_WIDTH.Кажется, что размер в случае больших файлов, кажется, всегда неопределен.

// dependencies
var async = require('async');
var AWS = require('aws-sdk');
var gm = require('gm')
            .subClass({ imageMagick: true }); // Enable ImageMagick integration.
var util = require('util');

// constants
var MAX_WIDTH  = 100;
var MAX_HEIGHT = 100;

// get reference to S3 client 
var s3 = new AWS.S3();

exports.handler = function(event, context, callback) {
    // Read options from the event.
    console.log("Reading options from event:\n", util.inspect(event, {depth: 5}));
    var srcBucket = event.Records[0].s3.bucket.name;
    // Object key may have spaces or unicode non-ASCII characters.
    var srcKey    =
    decodeURIComponent(event.Records[0].s3.object.key.replace(/\+/g, " "));  
    var dstBucket = srcBucket + "resized";
    var dstKey    = "resized-" + srcKey;

    // Sanity check: validate that source and destination are different buckets.
    if (srcBucket == dstBucket) {
        callback("Source and destination buckets are the same.");
        return;
    }

    // Infer the image type.
    var typeMatch = srcKey.match(/\.([^.]*)$/);
    if (!typeMatch) {
        callback("Could not determine the image type.");
        return;
    }
    var imageType = typeMatch[1];
    if (imageType != "jpg" && imageType != "png") {
        callback('Unsupported image type: ${imageType}');
        return;
    }

    // Download the image from S3, transform, and upload to a different S3 bucket.
    async.waterfall([
        function download(next) {
            // Download the image from S3 into a buffer.
            s3.getObject({
                    Bucket: srcBucket,
                    Key: srcKey
                },
                next);
            },
        function transform(response, next) {
            gm(response.Body).size(function(err, size) {
                // Infer the scaling factor to avoid stretching the image unnaturally.
                var scalingFactor = Math.min(
                    MAX_WIDTH / size.width,
                    MAX_HEIGHT / size.height
                );
                var width  = scalingFactor * size.width;
                var height = scalingFactor * size.height;

                // Transform the image buffer in memory.
                this.resize(width, height)
                    .toBuffer(imageType, function(err, buffer) {
                        if (err) {
                            next(err);
                        } else {
                            next(null, response.ContentType, buffer);
                        }
                    });
            });
        },
        function upload(contentType, data, next) {
            // Stream the transformed image to a different S3 bucket.
            s3.putObject({
                    Bucket: dstBucket,
                    Key: dstKey,
                    Body: data,
                    ContentType: contentType
                },
                next);
            }
        ], function (err) {
            if (err) {
                console.error(
                    'Unable to resize ' + srcBucket + '/' + srcKey +
                    ' and upload to ' + dstBucket + '/' + dstKey +
                    ' due to an error: ' + err
                );
            } else {
                console.log(
                    'Successfully resized ' + srcBucket + '/' + srcKey +
                    ' and uploaded to ' + dstBucket + '/' + dstKey
                );
            }

            callback(null, "message");
        }
    );
};

Вот сообщение об ошибке непосредственно из журналов AAWS Cloud Watch:

2019-05-14T22:31:28.731Z    b5fccf54-e55f-49f2-9206-462fa5769149    TypeError: Cannot read property 'width' of undefined
at gm.<anonymous> (/var/task/index.js:57:38)
at emitMany (events.js:147:13)
at gm.emit (events.js:224:7)
at gm.<anonymous> (/var/task/node_modules/gm/lib/getters.js:70:16)
at cb (/var/task/node_modules/gm/lib/command.js:322:16)
at gm._spawn (/var/task/node_modules/gm/lib/command.js:226:14)
at gm._exec (/var/task/node_modules/gm/lib/command.js:190:17)
at gm.proto.(anonymous function) [as size] (/var/task/node_modules/gm/lib/getters.js:68:12)
at transform (/var/task/index.js:54:31)
at nextTask (/var/task/node_modules/async/dist/async.js:5324:14)

РЕДАКТИРОВАТЬ: В дополнениеЯ также, кажется, получаю эту ошибку, которая чередовалась между двумя:

2019-05-14T22:55:25.923Z    7a7f1ec2-cd78-4fa5-a296-fee58033aea6    Unable to resize MYBUCKET/image.png and upload to MYBUCKETRESIZE/resize-image.png due to an error: Error: Stream yields empty buffer

РЕДАКТИРОВАТЬ: Добавлена ​​строка отчета:

REPORT RequestId: a67e1e79-ebec-4b17-9832-4049ff31bd89  Duration: 7164.64 ms    Billed Duration: 7200 ms Memory Size: 1024 MB   Max Memory Used: 810 MB

1 Ответ

2 голосов
/ 15 мая 2019

Ваши две ошибки по несколько иным причинам.

Stream yields empty buffer почти наверняка означает, что вам не хватает памяти.

Другая ошибка может быть специфической ошибкой imagemagick, которую я не думаю, что вы обрабатываете. Хотя это также, вероятно, связано с проблемой памяти. Поскольку он находится в режиме обратного вызова, вам нужно проверить переменную err:

function transform(response, next) {
    gm(response.Body).size(function(err, size) {
        if (err) throw err;

Модуль imagemamgick может что-то записывать в / tmp. Фрагмент для проверки / очистки использования диска из проекта, над которым я работал

const fs = require('fs')
const folder = '/tmp/'

// Deleting any files in the /tmp folder (lambda will reuse the same container, we will run out of space)
const files = fs.readdirSync(folder)
for (const file of files) {
  console.log('Deleting file from previous invocation: ' + folder + file)
  fs.unlinkSync(folder + file)
}
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...