Во время перехода наши S3-цены значительно выросли из-за вызовов ListBucket и HeadObject. Мы пытаемся выяснить, как отладить внезапное увеличение наших расходов на S3. Мы внесли некоторые изменения, которые НЕ должны были повлиять на это, но основное изменение, по-видимому,
- 10-20-кратное увеличение вызовов HeadObject
- Внезапное появление вызовов ListBucket
Я приложил график, показывающий скачок между 10 апреля 2018 года и 14 апреля 2018 года. В промежутках между этими датами мы внесли следующие изменения
- Изменено с (debian 8) S3FS v1.61 (супер старый с 2012 года, даже не в Github) до v1.84 (последний)
- Переезд из Северной Вирджинии в Северную Калифорнию (стоимость на 10% выше)
- Гигантские желтые полосы показывают перемещение файлов с помощью Amazon CLI (с 11 по 13 апреля)
- Чтобы попытаться это успокоить, мы добавили в команду mount в / etc / fstab следующее:
noatime,stat_cache_expire=3600,enable_noobj_cache
- Бары, которые выглядят неровными, начиная с 14 апреля, теперь стабильны около $ 25 / день
Опции, которые уже были там, были с начала (без изменений)
_netdev,allow_other,use_cache=/tmp,umask=0000,use_path_request_style,ensure_diskfree=10240
Мы сделали следующее, чтобы попытаться отладить это
- Включено ведение журнала S3
- Сброс логов в Афину, а затем экспорт CSV в MySQL
- Эти журналы стоят всего 1 день
- Снимок экрана "запрос 1" показывает, что в пути 4,8 млн. Попаданий ... в основном, мы думаем, что он пересекает все дерево каталогов (с большинством примерно 100 тыс. Файлов), ища файл, если он существует
Снимок экрана "запрос 2" показывает то же самое (вид), где он также выполняет путь
Не совсем уверен, что еще нужно делать, но наш обычный счет в размере около 5 долларов в день (включая другие услуги) теперь составляет около 25 долларов в день (увеличение в 5 раз). С изменениями / etc / fstab он снизился до 13 долларов / день, но все еще пытаюсь получить его до 5 долларов в день, если мы сможем вернуться к нулю вызовов ListBucket и 20% вызовов HeadObject.
Любые идеи о том, что попробовать, очень ценятся.