Это можно сделать, поместив config.ru в корневой каталог, который сообщает Heroku, где найти ваше приложение.Например, с Rails 3, попробуйте config.ru, например, в своем корневом каталоге:
WEBSITE_SUBDIR = 'website'
require "#{WEBSITE_SUBDIR}/config/environment"
run YourApplicationName::Application
А на Rails 2.x вам потребуется что-то вроде этого:
WEBSITE_SUBDIR = 'website'
require "#{WEBSITE_SUBDIR}/config/environment"
use Rails::Rack::LogTailer
use Rails::Rack::Static
run ActionController::Dispatcher.new