Вы можете сохранить пароли в виде файла на вашем сервере развертывания, а затем добавить что-то вроде этого в database.yml (или где у вас есть конфиденциальные данные):
production:
adapter: mysql
host: localhost
database: foobar_production
username: foobar
password: <%= begin IO.read("/home/deploy/passwords/foobar.db") rescue "" end %>
... где foobar.db - текстовый файл, содержащий только пароль.