Я бы порекомендовал jiglibflash. JiglibFlash работает с Away3d и бета-версией Flash 11. Как только Flash 11 выйдет из бета-версии, вы сможете использовать низкоуровневые API-интерфейсы GPU. Установите бета-версию и ознакомьтесь с демонстрациями на http://www.jiglibflash.com/blog/2011/02/27/jiglibflashfp11/
Я не использовал WOW Engine, но, похоже, он активно не разрабатывается, так как он почти год не обновлялся.