Что s3fs кеширует в / tmp? - PullRequest
       17

Что s3fs кеширует в / tmp?

0 голосов
/ 21 января 2019

Я использую s3fs для монтирования большого количества файлов в корзину S3. Он работает нормально, за исключением того факта, что мое локальное дисковое пространство также сильно увеличивается (содержимое в каталоге / tmp).

Моя команда:

$ su ec2-user -c '/usr/bin/s3fs my-bucket-name -o use_cache=/tmp /home/ec2-user/dir'`

Я использую параметр use_cache, но что на самом деле кэшируется? Являются ли эти файлы, которые все еще должны быть загружены на s3 и кэшируются на моей локальной машине? Могу ли я просто удалить его во время загрузки / монтирования или нет? И будет ли моя загрузка быстрее, если я ее отключу (если это для других целей)?

1 Ответ

0 голосов
/ 21 января 2019

Из s3fs wiki (что немного сложно найти).

Если включено с помощью опции "use_cache", s3fs автоматически поддерживает локальный кэш файлов впапка, указанная в use_cache.Всякий раз, когда s3fs нужно прочитать или записать файл на s3, он сначала загружает весь файл локально в папку, указанную в use_cache, и обрабатывает ее.При вызове fuse release () s3fs повторно загрузит файл в s3, если он был изменен.s3fs использует контрольные суммы md5 для минимизации загрузок с s3.Примечание: это отличается от кэша статистики (см. Ниже).

Локальное кэширование файлов работает путем вычисления и сравнения контрольных сумм md5 (заголовок ETag HTTP).

Папка, указанная с помощью use_cache, является простолокальный кеш.Его можно удалить в любое время.s3fs восстанавливает его по требованию.Примечание: этот каталог становится неограниченным и может заполнять файловую систему, зависящую от корзины, и считывать ее в эту область.

...