хранилище объектов для значений от 100 байтов до 5M для небольшого кластера - PullRequest
0 голосов
/ 27 мая 2019

я m looking for object storage solution to fit requirements of the project i м работает.

Вот мои требования: 1) У меня очень маленький масштаб, т.е. типичная установка будет от 1 до 4 узлов.Конечно, в случае одного узла, мне не требуется HA или какой-либо другой вид доступности. Если узел выходит из строя, данные идут капутом.В случае, если я m using more than 1 node (3-4) nodes i would like to use replica 2 (survive single node failure) 2) Data i m собираюсь хранить 2.1) файл среднего размера ~ 1 МБ каждый 2.2) небольшие объекты метаданных, объекты действительно маленькие .. ~ 100 байт каждый рацион видеообъектов и объектов метаданных составляет ~ 1/10 (т.е. в 10 разбольше объектов метаданных)

3) надежность в случае, если реплики X2: в случае сбоя 1 реплики я хочу продолжать работать в «ухудшенном» режиме, и этот кластер начнет перебалансировку (если у меня> 2 узла в кластере)

Объем данных большой, т. Е. I m going to create medium file every couple of seconds, and 10 metadata objects at same rate. Storage disks are SATA SSD s.

Изначально я использовал простую файловую систему, но через пару месяцев я начал выходить из инодов (ожидается :)), поэтому сейчас я ищу решение для хранения объектов / KV.

Мои требования просты: установить / получить, мне не нужны сложные транзакции / итераторы, а объекты неизменяемы.(модификация не требуется).

Изначально я думал о хранилище объектов S3`, смотрел на: 1) ceph rados GW, но выглядело как излишнее (особенно в случае одного узла:))

2) seaweedfs - https://github.com/chrislusf/seaweedfs, за его способность обрабатывать небольшие объекты, это казалось разумным для установки на одном узле, но имеет очень ограниченную поддержку кластеризации / отработки отказа.

3) Minio - iеще не оценил.

4) ядро ​​nooba (недавно приобретенное redhat) - казалось очень примитивным решением без гарантий надежности в случае сбоя.

Я даже думал настроить CLVM поверх mdraid1 с помощью iscsi или чего-то подобного ииспользуйте для этого один узел Minio.

Хотя я в основном смотрел на решения для хранилищ объектов S3-ih, я не ограничиваюсь ими.Мое единственное требование, что это будет с открытым исходным кодом и бесплатно для коммерческого использования.и иметь как минимум достойную поддержку кластеризации.

Любые предложения будут высоко оценены.

...