Нажмите на Help -> Edit Custom VM Options....Если у вас нет созданных параметров виртуальной машины, вам будет предложено создать их, примите их.Добавьте / измените -Xmx с количеством и типом данных, которые вы хотите, например -Xmx8g для 8 ГБ кучи.После этого вам необходимо перезапустить Android Studio, чтобы он вступил в силу.
Изменить: Для получения дополнительной информации о параметрах студии, посмотрите здесь .
Редактировать 2: Если у вас проблема с jps, убедитесь, что вы добавили $PATH для java home.Подробнее в этом ответе .