Swing является полным, поддерживаемым, хорошо документированным и реализованным на Java, что обеспечивает межплатформенную переносимость. Что наиболее важно, это часть языка Java, так что нет других загрузок для пользователя, чтобы управлять / раздувать вашу программу.
Хотя внешний вид по умолчанию уродлив, Java 7 обновляет внешний вид Swing по умолчанию для Nimbus, который выглядит очень глянцево.
Если ваш вопрос касается использования самого языка, я бы сказал «да». Java, как и Swing, хорошо документирована и хорошо разработана. Это может показаться многословным, но если есть проблема, вы можете решить ее на Java.