Я не знаю эмулятора мобильного телефона Clamshell, хотя, если это Java-программа, возможно, максимальный размер кучи слишком мал и, следовательно, программе не хватает памяти.
Вы можете передать -Xmx512m в качестве дополнительного параметра Java, чтобы установить максимальный размер кучи 512mb. (возможны более высокие значения: -Xmx768m, -Xmx1024m, ...).
Итак, осталось только найти место, где запущен ваш эмулятор. Просто добавьте параметр в стартовый скрипт или в файл конфигурации, если он есть.