Возможно, вы захотите использовать Qt, поскольку он предлагает API-интерфейсы для решения второй части вашей проблемы: См. этот пример .
Если вы хотите определить, запустил ли пользователь новое приложение, вам придется написать службу Windows (предполагается, что ОС Windows MS), чтобы отслеживать ее, а затем запустить приложение захвата экрана.