Это возможно, но я думаю, что вам лучше обойтись, если разделить части GUI и консоли на отдельные программы и запустить части GUI из программы консоли. В противном случае вам, вероятно, придется изменить одну из задействованных парадигм: консольные приложения обычно не используют циклы событий, но окна GUI не будут реагировать ни на что, если вы не позволите Qt вступить во владение и запустить его с собственным циклом событий.