Насколько я понимаю, если вы используете стоечный тест, драйвер Capybara по умолчанию, то на самом деле не существует никакого реального веб-сервера, выполняющего запросы к нему.
Если вы хотите просмотреть свое приложение так, как это делает Cucumber / Capybara, вам нужно будет запустить его вручную на выбранном порту:
$ RAILS_ENV=test rails s -p 4000
А потом что-нибудь подобное в env.rb:
Capybara.configure do |config|
config.run_server = false
config.app_host = "http://localhost:4000"
end