Большая картинка:
QTP - сложный, дорогой, может автоматизировать практически все, не только приложения Flex, работает в Windows.
RIATest - простой, недорогой, разработанный специально и только для приложений Flex, работает на Windows и Mac.
Извините, нет опыта работы с Selenium.