У меня есть опыт работы с параллельными отладчиками DDT и Totalview на Linux. Я вижу, что DDTLite доступен как плагин для MS Visual Studio; Я не думаю, что есть версия Totalview для любой платформы Windows.
Так что, да, это возможно, но DDTLite стоит денег; однако я не смог бы работать без ДДТ или Totalview.
Возможно, что Microsoft, которая сейчас выпускает Windows-версию HPC, распараллеливала их отладчик, но я об этом ничего не знаю. Вы можете использовать GDB в параллельных программах, поэтому установка под Cygwin (или аналогичной) может вам помочь. Лично я никогда не находил gdb для параллельной отладки чего-либо, кроме невероятно сложного, и мне повезло работать на сайте, где получить параллельный отладчик не оказалось сложно.