изменить значение указанной ниже переменной в 'gradle.properties' в корне вашего проекта.
org.gradle.jvmargs=-Xmx1536m
измените его на 'org.gradle.jvmargs = -Xmx536m' и перезапустите андроид студию.
Если это не работает, попробуйте отключить демона gradle для тестирования. добавьте org.gradle.daemon = false в файл gradle.properties.