Трудно представить, что у вас может быть одно решение, которое будет работать в Windows и OS X. Фреймворки окон полностью отличаются. Труднее было бы придумать одно решение, а написать два.
По крайней мере, в Windows я не уверен, что вам повезет, сделав скриншот скрытого или затемненного окна. Когда вы ищите это в Интернете, вы найдете миллионы обращений к людям, которые задают этот вопрос. Ни один из них, кажется, не преуспел. Если вы учитываете DWM и Aero glass, то я думаю, что ваши шансы на успех ограничены.