Нет, MySQL не имеет возможности квоты памяти для каждого пользователя.
Сколько памяти может использовать один запрос, зависит от множества переменных, которые вы можете настроить. Вы можете ограничить размер буферов объединения, буферов сортировки, временных таблиц и т. Д. Эти ограничения будут глобальными для всех запросов.