Вам следует ознакомиться с документацией по маршрутизации Heroku .
В частности, на вопрос о том, как dynos обрабатывает несколько запросов, Heroku направит несколько запросов одному и тому же dyno.Некоторые серверы могут не обрабатывать несколько, хотя.Например, стандартный сервер ruby, Webrick - нет.Вы должны использовать Puma, чтобы иметь несколько потоков, по одному для обработки каждого запроса.