Может быть, не связано, но я все равно выложу это на всякий случай, если это поможет.
В больших проектах мне приходилось менять размер виртуальной памяти JVM выше, чем по умолчанию. Вы можете редактировать конфигурационный файл, который обычно находится здесь:
C:\Program Files (x86)\Adobe\Adobe Flash CS5\Common\First Run\ActionScript 3.0\jvm.ini
(или просто поиск по jvm.ini)
Для меня я установил размер от 128 до:
-Xmx256m
Основная проблема, которая была решена, заключалась в том, что во время публикации возникала ошибка «нет сценария действия», и вся сборка всегда заканчивалась ошибкой. Это было связано с тем, что мой проект был слишком большим.
Может быть, а может и не быть связано с вашей проблемой, но стоит попробовать, если это поможет.