Базы данных оптимизированы для обработки множества строк;некоторые из используемых методов - это индексы, физическое размещение данных на диске и так далее.Операции над многими таблицами всегда будут выполняться медленнее - это не то, для чего была создана СУБД.
Есть одно исключение - иногда вы оптимизируете базы данных с помощью шардинга (разбиения данных), но этот подход имеет столько же преимуществ, сколько и недостатков.Одним из недостатков является то, что запросы, подобные описанному вами, занимают много времени.
Вы должны поместить всех своих пользователей в одну таблицу, потому что с логической точки зрения они представляют одну сущность.