Думаю, это будет немного зависеть от проблемной области. Возможно, вы захотите сохранить изученные «факты» или «отношения» в БД, чтобы их можно было легко найти. Если вы обучаете нейронную сеть, то вы, вероятно, просто сбросите состояние сети в файл. В общем, я думаю, что когда у вас есть механизм, который выполняет обучение, соответствующее представление хранилища будет относительно очевидным.
Может быть, если вы сможете конкретизировать свой план относительно того, какое обучение вы хотели бы реализовать, люди могут дать больше рекомендаций относительно того, как должна выглядеть реализация, включая хранилище состояний.