Я бы сказал, что это очень зависит от ОС.Я полагаю, что в Windows есть API, связанные с поиском открытых окон.Вы можете найти все открытые окна и закрыть их.В главном цикле вашего приложения вы можете определить, открыты ли какие-либо окна, а затем закрыть их.
Возможно, у mac и ubuntu есть что-то похожее.
Это может быть хорошим местом для начала поиска: http://msdn.microsoft.com/en-us/library/ms633497%28VS.85%29.aspx
Я не знаю, как его использовать.
Вам понадобится что-то более мощное, чем javascript, для взаимодействия с вашим приложением, которое отслеживает рабочий стол пользователя.Возможно, вы захотите посмотреть, как подключить JS к Silverlight, после чего клиент загрузит что-то после открытия браузера, что также похоже на silverlight или .net.Тогда вы можете сделать так, чтобы они все могли общаться.