Матовый,
Я не думаю, что вы сможете протестировать свой не-Java GUI с библиотеками Java.
При этом вы можете взглянуть на AutomationAnywhere (.com) и посмотреть, соответствует ли это вашим потребностям. Этот инструмент очень надежный и очень дорогой, что может и не быть проблемой, если ваша компания собирается за него платить. Вы можете попробовать бесплатную пробную версию и посмотреть, что вы думаете.
Удачи,
-Роберт