Вы должны настроить свои системы так, чтобы ваша служба работала как собственный пользователь со своими собственными защищенными файлами.Это обеспечивает некоторую защиту, так что даже если другая служба скомпрометирована, доступ злоумышленника будет изолирован от других компонентов вашей системы.Не запускайте все как root.
Что касается того, как секреты хранятся и к ним обращаются, решать вам.Вы можете иметь файл конфигурации, если хотите.Другой вариант - использовать переменные окружения.В конечном счете;тем не менее, ваши секреты нужно будет хранить в открытом тексте, чтобы ваша система могла их прочитать и использовать.
Еще один метод, о котором стоит упомянуть, - вы можете отделить свои секреты от своих приложений, имея специальную службу секретов.Все ваши приложения должны были бы знать об этой услуге, и оттуда они могли бы запрашивать секреты, необходимые для их нормальной работы.При этом очевидно, что все ваши приложения зависят от службы секретов при запуске - в противном случае ваши приложения не смогут запускаться или перезапускаться.