Я никогда не находил это неуклюжим - но я использую конфигурационные переменные heroku для ключей API и других вещей, которые я не хочу помещать в репозиторий git, и соответствующий файл среды .rb для конфигурационных приложений, специфичных для каждой среды.
Вы всегда можете https://github.com/fastestforward/heroku_san, который позволяет вам задавать переменные конфигурации в файле yml, который можно запускать для приложения, чтобы устанавливать переменные без необходимости делать это через CLI