Нашел эту ссылку, которая помогает: http://groups.google.com/group/android-beginners/browse_thread/thread/1e0a66a5ab115168
Решение, по-видимому, состоит в том, чтобы отредактировать скрипт оболочки dx или dx.bat (в зависимости от вашей платформы) и раскомментировать строку, которая устанавливает размер кучи.
Например,
vi $ANDROID_SDK/platforms/*/tools/dx
позволит вам редактировать каждый из ваших dx файлов на mac (и, возможно, linux).
Затем раскомментируйте строку javaOpts
, которая говорит что-то вроде следующего:
# If you want DX to have more memory when executing, uncomment the following
# line and adjust the value accordingly. Use "java -X" for a list of options
# you can pass here.
#
# javaOpts="-Xmx256M"
Очевидно, что это не идеальное решение, поскольку ваши изменения будут засоряться каждый раз, когда вы обновляете SDK своей платформы. Но это помогло мне.