CEPH S3 Исключение при перечислении BLOB-объектов - PullRequest
0 голосов
/ 06 марта 2020

Я создал корзину S3, поддерживаемую CEPH и через java S3-клиент и через шлюз объектов S3, перечисляю каталог в разбивке по страницам, и случайным образом происходит сбой перечисления несколько раз после перечисления 1100 больших двоичных объектов в пакетах, несколько раз после перечисляя 2000 больших двоичных объектов в пакетах, и я не могу выяснить, как отладить эту проблему, это исключение, которое я получаю, и если вы заметили, что в исключении есть requestId, я думаю, что на основе этого я могу отфильтровать журналы, но где я могу найти logs - это вопрос, я проверил журналы шлюза s3 gateway, но я не смог найти там таких журналов, пожалуйста, дайте мне знать, где мне искать те же

com.amazonaws.services.s3.model.AmazonS3Exception: null (Service: Amazon S3; Status Code: 500; Error Code: UnknownError; Request ID: tx00000000000000000e7df-005e626049-1146-rook-ceph-store; S3 Extended Request ID: 1146-rook-ceph-store-rook-ceph-store), S3 Extended Request ID: 1146-rook-ceph-store-rook-ceph-store
at com.amazonaws.http.AmazonHttpClient$RequestExecutor.handleErrorResponse(AmazonHttpClient.java:1799)

, и это мой код для итерации по BLOB-объектам это не нумерация страниц, нумерация страниц, обе версии выдают одно и то же исключение после перечисления нескольких сотен BLOB-объектов

  ObjectListing objects = conn.listObjects(bucket.getName());
        do {
            for (S3ObjectSummary objectSummary : objects.getObjectSummaries()) {
                System.out.println(objectSummary.getKey() + "\t" +
                        objectSummary.getSize() + "\t" +
                        StringUtils.fromDate(objectSummary.getLastModified()));
            }
            objects = conn.listNextBatchOfObjects(objects);
        } while (objects.isTruncated());

Так что любые указатели на то, как отлаживать это, будут полезны. Спасибо

1 Ответ

0 голосов
/ 25 марта 2020

Попробуйте ListObjectV2.

Возвращает некоторые или все (до 1000) объектов в корзине.

https://docs.aws.amazon.com/AmazonS3/latest/API/API_ListObjectsV2.html

...