Увы, когда ваш отладчик остановился на точке останова, он остановит все потоки в вашем приложении. У меня похожая проблема, это то, что я делаю.
1) Вместо точек останова я ставлю точки трассировки с действительно подробной информацией. В Visual Studio, если вы поставите фигурные скобки, такие как {abc}, значение переменной ABC будет выведено на стандартный вывод
2) Ведение журнала. Это очень полезно, когда вы не можете приостановить свою программу
3) Структурная обработка исключений. Если вы генерируете исключения, когда у вас есть проблемы, вы можете легче отслеживать их, когда программа начинает раскручиваться из-за ошибки.
4) Утверждай как можно больше. Таким образом, если ваша программа не останавливается, это означает, что в алгоритмах все хорошо.