Максимальное количество записей в DynamoDB - PullRequest
0 голосов
/ 10 октября 2018

Я пишу скрипт, который сохраняет CSV в таблицу DynamoDB.Я использую Node.js и модуль aws-sdk.Кажется, все правильно, но я отправляю в «Динамо» более 50 тыс. Записей, а в веб-консоли сохраняются и отображаются только 1181.

Я пробовал с другим количеством записей, и это самый большой счетЯ получаю, независимо от того, пытаюсь ли я сохранить 100К, 10К или 50К.Согласно документации AWS, не должно быть никаких ограничений на количество записей, есть идеи относительно того, какие другие факторы могут повлиять на этот жесткий предел?

Кстати, мой код ловит ошибки от действий вставки, иЯ не поднимаю их, когда вставляю отметку 1181, поэтому модуль не очень помогает.

Любая дополнительная идея приветствуется.

1 Ответ

0 голосов
/ 11 октября 2018

Если вы используете DynamoDb batchWriteitem или другую пакетную вставку, вам нужно проверить элемент "UnprocessedItems" в ответе.Иногда пакетная запись превышает выделенную емкость записи вашей таблицы, и она не будет обрабатывать все ваши вставки, похоже, что здесь происходит.

Вы должны проверить ответ вашей вставки, и если есть необработанные элементы, настройте aповторная и экспоненциальная стратегия отсрочки в вашем коде.Это позволит вставлять дополнительные элементы до тех пор, пока не будет обработана вся ваша CSV.

Вот ссылка на ссылку для Dynamo BatchWriteItem , если вы хотите более подробно рассмотреть элементы ответа.Удачи!

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...