Количество одновременных «соединений», которые вы можете установить, зависит от вашего приложения. Если вы выполняете действия, связанные с использованием ЦП или объемом памяти, при каждом запросе, вы сможете обрабатывать гораздо меньше одновременных подключений, чем при наличии статического сайта.
Heroku передает информацию о доле ЦП и памяти, доступных на каждом dyno. введите здесь: https://devcenter.heroku.com/articles/dyno-types
Если вы не можете обработать количество соединений, которое вам требуется, увеличение размера dyno, их количества или оптимизация вашего приложения - действительно, путь.