Если ваши данные структурированы, RMDBS кажется очевидным выбором, если это неструктурированные данные - например, документ, то лучше всего звучит DocDBMS.
RMDBS - это скорее инструмент «бэкэнда», его можно использовать для предоставления бэкенда системы, которую вы разрабатывали.
Когда вы говорите «DocDBMS», я думаю, что вы имеете в виду больше систему управления документами (?), Которая представляет собой скорее целостное решение, которое будет включать (документировать) функции управления данными, предназначенные для конечных пользователей.
Для меня NoSQL - это просто вариант RMDBS, но для более специфичных / нишевых потребностей.
Что касается того, как выбрать: составьте список НФР, которые имеют отношение к делу, и проведите некоторый простой анализ вариантов и того, как они связаны; На ум приходят масштабируемость и производительность, а как насчет объемов данных и скорости транзакций? DR? И, конечно, важные функциональные потребности. Вас больше беспокоит качество исполнения того, что построено, или долгосрочные эволюционные качества?