Вопрос никогда не бывает таким простым, как «сколько соединений слишком много», потому что такие вещи всегда зависят от того, что делает соединение. Если это приложение чата, я могу представить, что в основном соединение будет бездействующим. В этом случае вы можете обрабатывать гораздо больше соединений, чем, скажем, загрузчик файлов, который постоянно использует максимальную пропускную способность.
Но, чтобы задать вам вопрос, о котором вы действительно должны подумать: что вы получаете , имея несколько соединений? Каждое соединение представляет накладные расходы как для клиента, так и для сервера, и вам придется проходить аутентификацию индивидуально для каждого соединения. Это слишком дорого для соединения с низкой пропускной способностью.
Кроме того, поддержание до 100 соединений на клиента на стороне сервера может быть гораздо более важным фактором для рассмотрения.
Очевидно, я понятия не имею о вашей системе / архитектуре, но из вашего описания пока я бы сказал, что это не хорошая идея.